super-wuliao / LoRA-ChatGLM-Chinese-Alpaca
使用LoRA对ChatGLM/Alpaca等进行进一步指令微调，之后融合模型并继续使用LoRA进行垂直领域（中文语法纠错优先）的模型训练
☆43Updated 2 years ago
Alternatives and similar repositories for LoRA-ChatGLM-Chinese-Alpaca
Users that are interested in LoRA-ChatGLM-Chinese-Alpaca are comparing it to the libraries listed below
Sorting:
- ChatGLM-6B HTTP流式解码API的Flask、FastAPI实现，以及开箱即用的Web页面。 a stream decoding demo of ChatGLM-6B using Flask or FastAPI, with web page out-of-th…☆92Updated last year
- 基于sentence transformers和chatglm实现的文档搜索工具☆154Updated 2 years ago
- chatglm-6b微调/LORA/PPO/推理, 样本为自动生成的整数/小数加减乘除运算, 可gpu/cpu☆164Updated last year
- chatglm-6B for tools application using langchain☆75Updated last year
- 基于chatglm快速搭建文档问答机器人☆88Updated last year
- 打造人人都会的NLP，开源不易，记得star哦☆101Updated 2 years ago
- ChatGLM2-6B微调, SFT/LoRA, instruction finetune☆107Updated last year
- 微调ChatGLM☆126Updated 2 years ago
- ChatGLM-6B fine-tuning.☆135Updated 2 years ago
- CIKM2023 Best Demo Paper Award. HugNLP is a unified and comprehensive NLP library based on HuggingFace Transformer. Please hugging for NL…☆389Updated last year
- SkyText是由奇点智源发布的中文GPT3预训练大模型，可以进行文章续写、对话、中英翻译、内容风格生成、推理、诗词对联等不同任务。| SkyText is a Chinese GPT3 pre-trained large model released by Singula…☆406Updated 2 years ago
- 实现一种多Lora权值集成切换+Zero-Finetune零微调增强的跨模型技术方案，LLM-Base+LLM-X+Alpaca，初期，LLM-Base为Chatglm6B底座模型，LLM-X是LLAMA增强模型。该方案简易高效，目标是使此类语言模型能够低能耗广泛部署，并最…☆115Updated last year
- 骆驼QA，中文大语言阅读理解模型。☆74Updated last year
- AGI模块库架构图☆75Updated last year
- 使用qlora对中文大语言模型进行微调，包含ChatGLM、Chinese-LLaMA-Alpaca、BELLE☆86Updated last year
- 从langchain-ChatGLM基础上修改的一个可以加载TigerBot模型的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。☆106Updated last year
- SMP 2023 ChatGLM金融大模型挑战赛 60 分baseline思路介绍☆185Updated last year
- 🛰️ 基于真实医疗对话数据在ChatGLM上进行LoRA、P-Tuning V2、Freeze、RLHF等微调，我们的眼光不止于医疗问答☆324Updated last year
- "桃李“: 国际中文教育大模型☆179Updated last year
- Ziya-LLaMA-13B是IDEA基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前姜子牙通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。本文主要用于Ziya-…☆45Updated last year
- Q&A based on elasticsearch+langchain+chatglm2 ｜ 基于elasticsearch，langchain，chatglm2的自有知识库问答☆241Updated last year
- Baichuan2代码的逐行解析版本，适合小白☆214Updated last year
- ChatGLM 6B 的模型与UI，通过 LangChain 与向量匹配实现本地知识库问答，支持流式输出☆112Updated 2 years ago
- 供AI训练的中文数据集（持续更新。。。）与AI公司图谱，目前的数据集餐饮行业8000问，百度知道，Alpaca中文数据集，计算机领域数据集，Vicuna数据集，RedPajama数据集，Wikipedia中文词条数据集，网站论坛问答数据集☆57Updated last year
- llama inference for tencentpretrain☆98Updated last year
- Deepspeed、LLM、Medical_Dialogue、医疗大模型、预训练、微调☆263Updated 11 months ago
- Firefly中文LLaMA-2大模型，支持增量预训练Baichuan2、Llama2、Llama、Falcon、Qwen、Baichuan、InternLM、Bloom等大模型☆410Updated last year
- 中文聊天小模型，用t5 base在大量数据上有监督。☆101Updated last year
- 大语言模型微调的项目，包含了使用QLora微调ChatGLM和LLama☆27Updated last year
- 一个基于HuggingFace开发的大语言模型训练、测试工具。支持各模型的webui、终端预测，低参数量及全参数模型训练(预训练、SFT、RM、PPO、DPO)和融合、量化。☆217Updated last year