ssbuild / aigc_servingLinks
aigc_serving lightweight and efficient Language service model reasoning
☆24Updated last year
Alternatives and similar repositories for aigc_serving
Users that are interested in aigc_serving are comparing it to the libraries listed below
Sorting:
- 利用LLM+敏感词库，来自动判别是否涉及敏感词。☆136Updated 2 years ago
- self-host ChatGLM-6B API made with fastapi☆79Updated 2 years ago
- 部署你自己的OpenAI api🤩, 基于flask, transformers (使 用 Baichuan2-13B-Chat-4bits 模型, 可以运行在单张Tesla T4显卡) ，实现了OpenAI中Chat, Models和Completions接口，包含流式响…☆96Updated 2 years ago
- 打造人人都会的NLP，开源不易，记得star哦☆102Updated 2 years ago
- 首个llama2 13b 中文版模型 （Base + 中文对话SFT，实现流畅多轮人机自然语言交互)☆91Updated 2 years ago
- Q&A based on elasticsearch+langchain+chatglm2 ｜ 基于elasticsearch，langchain，chatglm2的自有知识库问答☆243Updated 2 years ago
- 演示 vllm 对中文大语言模型的神奇效果☆31Updated 2 years ago
- 基于sentence transformers和chatglm实现的文档搜索工具☆157Updated 2 years ago
- 从langchain-ChatGLM基础上修改的一个可以加载TigerBot模型的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。☆111Updated 2 years ago
- 使用qlora对中文大语言模型进行微调，包含ChatGLM、Chinese-LLaMA-Alpaca、BELLE☆89Updated 2 years ago
- ChatGPT WebUI using gradio. 给 LLM 对话和检索知识问答RAG提供一个简单好用的Web UI界面☆138Updated last year
- "桃李“: 国际中文教育大模型☆189Updated 2 years ago
- Humanable Chat Generative-model Fine-tuning | LLM微调☆206Updated 2 years ago
- chatglm-6b微调/LORA/PPO/推理, 样本为自动生成的整数/小数加减乘除运算, 可gpu/cpu☆165Updated 2 years ago
- Alpaca Chinese Dataset -- 中文指令微调数据集☆217Updated last year
- llama inference for tencentpretrain☆99Updated 2 years ago
- 大语言模型ChatGLM-6B为基座，接入文档阅读功能进行实时问答，可上传txt/docx/pdf多种文件类型。☆43Updated 2 years ago
- QA based on local knowledge and LLM.☆239Updated 11 months ago
- gpt_server是一个用于生产级部署LLMs、Embedding、Reranker、ASR、TTS、文生图、图片编辑和文生视频的开源框架。☆240Updated 2 weeks ago
- 流水线系统(pipeline)构建基于本地知识库的ChatGLM问答☆86Updated 2 years ago
- A high-throughput and memory-efficient inference and serving engine for LLMs☆139Updated last year
- Customize APIs from GLM, ChatGLM☆71Updated 10 months ago
- Firefly中文LLaMA-2大模型，支持增量预训练Baichuan2、Llama2、Llama、Falcon、Qwen、Baichuan、InternLM、Bloom等大模型☆414Updated 2 years ago
- 骆驼QA，中文大语言阅读理解模型。☆75Updated 2 years ago
- ChatGLM2-6B微调, SFT/LoRA, instruction finetune☆110Updated 2 years ago
- ChatGLM 6B 的模型与UI，通过 LangChain 与向量匹配实现本地知识库问答，支持流式输出☆116Updated 2 years ago
- 基于chatglm快速搭建文档问答机器人☆89Updated 2 years ago
- OrionStar-Yi-34B-Chat 是一款开源中英文Chat模型，由猎户星空基于Yi-34B开源模型、使用15W+高质量语料微调而成。☆262Updated last year
- 实现一种多Lora权值集成切换+Zero-Finetune零微调增强的跨模型技术方案，LLM-Base+LLM-X+Alpaca，初期，LLM-Base为Chatglm6B底座模型，LLM-X是LLAMA增强模型。该方案简易高效，目标是使此类语言模型能够低能耗广泛部署，并最…☆116Updated 2 years ago
- ✏️0成本LLM微调上手项目，⚡️一步一步使用colab训练法律LLM，基于microsoft/phi-1_5、chatglm3，包含lora微调，全参微调☆82Updated last year