KashiwaByte / Qwen-1.5-FinetuneLinks
ModelScope+Transformers+SwanLab实现Qwen-1.5-7b的指令微调任务
☆21Updated last year
Alternatives and similar repositories for Qwen-1.5-Finetune
Users that are interested in Qwen-1.5-Finetune are comparing it to the libraries listed below
Sorting:
- Qwen1.5-SFT(阿里, Ali), Qwen_Qwen1.5-2B-Chat/Qwen_Qwen1.5-7B-Chat微调(transformers)/LORA(peft)/推理☆62Updated last year
- 大模型文本分类☆63Updated 10 months ago
- 大语言模型应用：RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化学习、天池数据竞赛☆62Updated 4 months ago
- baichuan-7B 微调 C++ 面试大模型☆15Updated last year
- 阿里通义千问(Qwen-7B-Chat/Qwen-7B), 微 调/LORA/推理☆105Updated last year
- ☆145Updated last year
- 对深度学习中的NLP进行解释和代码使用☆54Updated last year
- 通义千问的DPO训练☆48Updated 9 months ago
- 对llama3进行全参微调、lora微调以及qlora微调。☆197Updated 8 months ago
- ☆111Updated 11 months ago
- 此项目完成了关于 NLP-Beginner：自然语言处理入门练习 的所有任务（文本分类、信息抽取、知识图谱、机器翻译、问答系统、文本生成、Text-to-SQL、文本纠错、文本挖掘、知识蒸馏、模型加速、OCR、TTS、Prompt、embedding等），所有代码都经过测试…☆204Updated last year
- ChatGLM2-6B微调, SFT/LoRA, instruction finetune☆108Updated last year
- 中文大模型微调(LLM-SFT), 数学指令数据集MWP-Instruct, 支持模型(ChatGLM-6B, LLaMA, Bloom-7B, baichuan-7B), 支持(LoRA, QLoRA, DeepSpeed, UI, TensorboardX), 支持(微…☆203Updated last year
- 大语言模型微调的项目，包含了使用QLora微调ChatGLM和LLama☆27Updated last year
- 一套代码指令微调大模型☆39Updated last year
- Legal-Eagle-InternLM 是一个基于商汤科技和上海人工智能实验室推出的书生浦语大模型InternLM的法律问答机器人。旨在为用户提供符合3H（即Helpful、Honest、Harmless）原则的专业、智能、全面的法律服务的法律领域大模型。☆57Updated last year
- Ziya-LLaMA-13B是IDEA基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前姜子牙通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。本文主要用于Ziya-…☆45Updated 2 years ago
- 在中文开源大模型的基础上进行定制化的微调，拥有自己专属的语言模型。☆47Updated 2 years ago
- ☆41Updated 3 months ago
- 基于Phi3模型结构，使用常见的中文预料从零训练的小参数量LLM。包括了tokenizer训练、模型预训练、指令微调和直接偏好优化等流程。☆24Updated 11 months ago
- TechGPT: Technology-Oriented Generative Pretrained Transformer☆226Updated last year
- 在RAG技术中，嵌入向量的生成和匹配是关键环节。本文介绍了一种基于CLIP/BLIP模型的嵌入服务，该服务支持文本和图像的嵌入生成与相似度计算，为多模态信息检索提供了基础能力。☆30Updated 5 months ago
- 基于Llama3，通过进一步CPT，SFT，ORPO得到的中文版Llama3☆17Updated last year
- qwen ai agent☆132Updated last year
- baichuan LLM surpervised finetune by lora☆63Updated last year
- chatglm-6B for tools application using langchain☆75Updated 2 years ago
- ChatGLM-6B添加了RLHF的实现，以及部分核心代码的逐行讲解 ,实例部分是做了个新闻短标题的生成，以及指定context推荐的RLHF的实现☆86Updated last year
- 想要从零开始训练一个中文的mini大语言模型，可以进行基本的对话，模型大小根据手头的机器决定☆59Updated 10 months ago
- 基于大语言模型的检索增强生成RAG示例☆151Updated last month
- 快速入门RAG与私有化部署☆191Updated last year