ssbuild / aigc_servingLinks
aigc_serving lightweight and efficient Language service model reasoning
☆24Updated last year
Alternatives and similar repositories for aigc_serving
Users that are interested in aigc_serving are comparing it to the libraries listed below
Sorting:
- 利用LLM+敏感词库,来自动判别是否涉及敏感词。☆126Updated 2 years ago
- 打造人人都会的NLP,开源不易,记得star哦☆101Updated 2 years ago
- 首个llama2 13b 中文版模型 (Base + 中文 对话SFT,实现流畅多轮人机自然语言交互)☆90Updated last year
- ChatGPT WebUI using gradio. 给 LLM 对话和检索知识问答RAG提供一个简单好用的Web UI界面☆131Updated 11 months ago
- 部署你自己的OpenAI api🤩, 基于flask, transformers (使用 Baichuan2-13B-Chat-4bits 模型, 可以运行在单张Tesla T4显卡) ,实现了OpenAI中Chat, Models和Completions接口,包含流式响…☆94Updated last year
- 从langchain-ChatGLM基础上修改的一个可以加载TigerBot模型的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持 友好、可离线运行的知识库问答解决方案。☆107Updated 2 years ago
- Humanable Chat Generative-model Fine-tuning | LLM微调☆206Updated last year
- 基于sentence transformers和chatglm实现的文档搜索工具☆156Updated 2 years ago
- Q&A based on elasticsearch+langchain+chatglm2 | 基于elasticsearch,langchain,chatglm2的自有知识库问答☆242Updated last year
- LLama3中文个人版本☆39Updated last year
- self-host ChatGLM-6B API made with fastapi☆78Updated 2 years ago
- ✏️0成本LLM微调上手项目,⚡️一步一步使用colab训练法律LLM,基于microsoft/phi-1_5、chatglm3,包含lora微调,全参微调☆76Updated last year
- 使用qlora对中文大语言模型进行微调,包含ChatGLM、Chinese-LLaMA-Alpaca、BELLE☆87Updated 2 years ago
- 流水线系统(pipeline)构建基于本地知识库的ChatGLM问答☆87Updated 2 years ago
- "桃李“: 国际中文教育大模型☆183Updated last year
- ChatGLM 6B 的模型与UI,通过 LangChain 与向量匹配实现本地知识库问答,支持流式输出☆113Updated 2 years ago
- QA based on local knowledge and LLM.☆231Updated 6 months ago
- ☆77Updated 2 years ago
- share data, prompt data , pretraining data☆35Updated last year
- Ziya-LLaMA-13B是IDEA基于LLaMa的130亿参数的大规模预训练模型,具备翻译,编程,文本分类,信息抽取,摘要,文案生成,常识问答和数学计算等能力。目前姜子牙通用大模型已完成大规模预训练、多任务有监督微调和人类反馈学习三阶段的训练过程。本文主要用于Ziya-…☆45Updated 2 years ago
- chatglm-6b微调/LORA/PPO/推理, 样本为自动生成的整数/小数加减乘除运算, 可gpu/cpu☆164Updated last year
- llama inference for tencentpretrain☆98Updated 2 years ago
- Alpaca Chinese Dataset -- 中文指令微调数据集☆210Updated 10 months ago
- gpt_server是一个用于生产级部署LLMs、Embedding、Reranker、ASR和TTS的开源框架。☆204Updated 2 weeks ago
- Integrating ONgDB database into langchain ecosystem☆77Updated 2 years ago
- 大语言模型ChatGLM-6B为基座,接入文档阅读功能进行实时问答,可上传txt/docx/pdf多种文件类型。☆41Updated last year
- Firefly中文LLaMA-2大模型,支持增量预训练Baichuan2、Llama2、Llama、Falcon、Qwen、Baichuan、InternLM、Bloom等大模型☆410Updated last year
- ☆83Updated 2 years ago
- 中文世界的NLP自动标注开源工具,简单样本,交给LabelFast。☆74Updated 6 months ago
- ChatGLM2-6B微调, SFT/LoRA, instruction finetune☆108Updated 2 years ago