edw008 / LLaMA-Efficient-Tuning
☆26Updated last year
Alternatives and similar repositories for LLaMA-Efficient-Tuning:
Users that are interested in LLaMA-Efficient-Tuning are comparing it to the libraries listed below
- chatglm多gpu用deepspeed和☆409Updated 9 months ago
- Firefly中文LLaMA-2大模型,支持增量预训练Baichuan2、Llama2、Llama、Falcon、Qwen、Baichuan、InternLM、Bloom等大模型☆410Updated last year
- 通义千问VLLM推理部署DEMO☆569Updated last year
- 用于大模型 RLHF 进行人工数据标注排序的工具。A tool for manual response data annotation sorting in RLHF stage.☆250Updated last year
- 中文大模型微调(LLM-SFT), 数学指令数据集MWP-Instruct, 支持模型(ChatGLM-6B, LLaMA, Bloom-7B, baichuan-7B), 支持(LoRA, QLoRA, DeepSpeed, UI, TensorboardX), 支持(微…☆196Updated 11 months ago
- This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.☆424Updated 3 weeks ago
- 多模态中文LLaMA&Alpaca大语言模型(VisualCLA)☆445Updated last year
- Alpaca Chinese Dataset -- 中文指令微调数据集☆199Updated 6 months ago
- 使用peft库,对chatGLM-6B/chatGLM2-6B实现4bit的QLoRA高效微调,并做lora model和base model的merge及4bit的量化(quantize)。☆361Updated last year
- 《ChatGPT原理与实战:大型语言模型的算法、技术和私有化》☆354Updated last year
- VLE: Vision-Language Encoder (VLE: 视觉-语言多模态预训练模型)☆190Updated 2 years ago
- 🛰️ 基于真实医疗对话数据在ChatGLM上进行LoRA、P-Tuning V2、Freeze、RLHF等微调,我们的眼光不止于医疗问答☆322Updated last year
- 一些大语言模型和多模态模型的应用,主要包括Rag,小模型,Agent,跨模态搜索,OCR等等☆164Updated 5 months ago
- 阿里通义千问(Qwen-7B-Chat/Qwen-7B), 微调/LORA/推理☆93Updated 11 months ago
- 对ChatGLM直接使用RLHF提升或降低目标输出概率|Modify ChatGLM output with only RLHF☆192Updated last year
- ChatGLM2-6B 全参数微调,支持多轮对话的高效微调。☆398Updated last year
- baichuan LLM surpervised finetune by lora☆63Updated last year
- 大语言模型指令调优工具(支持 FlashAttention)☆172Updated last year
- Generate dialog data from documents using LLM like ChatGLM2 or ChatGPT;利用ChatGLM2,ChatGPT等大模型根据文档生成对话数据集☆157Updated last year
- FinQwen: 致力于构建一个开放、稳定、高质量的金融大模型项目,基于大模型搭建金融场景智能问答系统,利用开源开放来促进「AI+金融」。☆368Updated 10 months ago
- 中文书籍收录整理, Collection of Chinese Books☆184Updated last year
- Deepspeed、LLM、Medical_Dialogue、医疗大模型、预训练、微调☆261Updated 10 months ago
- Baichuan-13B 指令微调☆89Updated last year
- unified embedding model☆854Updated last year
- 雅意信息抽取大模型:在百万级人工构造的高质量信息抽取数据上进行指令微调,由中科闻歌算法团队研发。 (Repo for YAYI Unified Information Extraction Model)☆300Updated 8 months ago
- ChatGLM-6B fine-tuning.☆135Updated 2 years ago
- 人工精调的中文对话数据集和一段chatglm的微调代码☆1,178Updated 11 months ago
- ☆108Updated 9 months ago
- qwen models finetuning☆97Updated last month
- 开源SFT数据集整理,随时补充☆508Updated last year