super-wuliao / LoRA-ChatGLM-Chinese-Alpaca
使用LoRA对ChatGLM/Alpaca等进行进一步指令微调，之后融合模型并继续使用LoRA进行垂直领域（中文语法纠错优先）的模型训练
☆41Updated last year
Related projects ⓘ
Alternatives and complementary repositories for LoRA-ChatGLM-Chinese-Alpaca
- ChatGLM-6B HTTP流式解码API的Flask、FastAPI实现，以及开箱即用的Web页面。 a stream decoding demo of ChatGLM-6B using Flask or FastAPI, with web page out-of-th…☆93Updated 9 months ago
- 打造人人都会的NLP，开源不易，记得star哦☆101Updated last year
- SkyText是由奇点智源发布的中文GPT3预训练大模型，可以进行文章续写、对话、中英翻译、内容风格生成、推理、诗词对联等不同任务。| SkyText is a Chinese GPT3 pre-trained large model released by Singula…☆418Updated last year
- chatglm2 6b finetuning and alpaca finetuning☆144Updated 6 months ago
- chatglm-6b微调/LORA/PPO/推理, 样本为自动生成的整数/小数加减乘除运算, 可gpu/cpu☆163Updated last year
- ChatGLM-6B fine-tuning.☆135Updated last year
- 金融财报问答大模型LLM☆197Updated 7 months ago
- ChatGLM2-6B微调, SFT/LoRA, instruction finetune☆106Updated last year
- 从langchain-ChatGLM基础上修改的一个可以加载TigerBot模型的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。☆105Updated last year
- ChatGLM 6B 的模型与UI，通过 LangChain 与向量匹配实现本地知识库问答，支持流式输出☆110Updated last year
- 微调ChatGLM☆123Updated last year
- kbqa,langchain,large langauge model, chatgpt☆79Updated 2 weeks ago
- 使用qlora对中文大语言模型进行微调，包含ChatGLM、Chinese-LLaMA-Alpaca、BELLE☆85Updated last year
- 专注于中文领域大语言模型，落地到某个行业某个领域，成为一个行业大模型、公司级别或行业级别领域大模型。☆111Updated last month
- 演示 vllm 对中文大语言模型的神奇效果☆31Updated last year
- 首个llama2 13b 中文版模型 （Base + 中文对话SFT，实现流畅多轮人机自然语言交互)☆89Updated last year
- Q&A based on elasticsearch+langchain+chatglm2 ｜ 基于elasticsearch，langchain，chatglm2的自有知识库问答☆231Updated last year
- 基于sentence transformers和chatglm实现的文档搜索工具☆154Updated last year
- 骆驼QA，中文大语言阅读理解模型。☆72Updated last year
- （1）弹性区间标准化的旋转位置词嵌入编码器+peft LORA量化训练，提高万级tokens性能支持。（2）证据理论解释学习，提升模型 的复杂逻辑推理能力（3）兼容alpaca数据格式。☆45Updated last year
- 📔 对Chinese-LLaMA-Alpaca进行使用说明和核心代码注解☆48Updated last year
- 一个基于HuggingFace开发的大语言模型训练、测试工具。支持各模型的webui、终端预测，低参数量及全参数模型训练(预训练、SFT、RM、PPO、DPO)和融合、量化。☆202Updated 11 months ago
- baichuan LLM surpervised finetune by lora☆60Updated last year
- chatglm-6B for tools application using langchain☆77Updated last year
- CIKM2023 Best Demo Paper Award. HugNLP is a unified and comprehensive NLP library based on HuggingFace Transformer. Please hugging for NL…☆380Updated last year
- 基于ChatGLM2-6B进行微调，包括全参数、参数有效性、量化感知训练等，可实现指令微调、多轮对话微调等。☆25Updated last year
- 部署你自己的OpenAI api🤩, 基于flask, transformers (使用 Baichuan2-13B-Chat-4bits 模型, 可以运行在单张Tesla T4显卡) ，实现了OpenAI中Chat, Models和Completions接口，包含流式响…☆84Updated 11 months ago
- Ziya-LLaMA-13B是IDEA基于LLaMa的130亿参数的大规模预训练模型，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力。目前姜子牙通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。本文主要用于Ziya-…☆42Updated last year