Alternatives and similar repositories for Local-LLM-Server:

Users that are interested in Local-LLM-Server are comparing it to the libraries listed below

• waveCodeSite / m3e-large-api
  m3e-large-api
  ☆17Updated 10 months ago
• Crossme0809 / langchain-tutorials
  ☆72Updated last year
• owenliang / aippt
  generate ppt with llm
  ☆77Updated 11 months ago
• qianyouliang / MetaGPT-Learn
  这个仓库主要用于记录以MetaGPT为基础的Agent开发理论学习记录
  ☆16Updated 8 months ago
• Samge0 / ragflow-upload
  自动批量上传并解析文档至 RagFlow 知识库，省去手动操作，提升效率。
  ☆56Updated 4 months ago
• shibing624 / chatgpt-webui
  ChatGPT WebUI using gradio. 给 LLM 对话和检索知识问答RAG提供一个简单好用的Web UI界面
  ☆105Updated 5 months ago
• gan / glm4v-assistant
  Sample GLM4V + ChatTTS AI assistant
  ☆85Updated 7 months ago
• mMrBun / AIPC
  ☆58Updated 3 months ago
• tylike / AI.Labs
  openai chatgpt or local llm(llama.cpp gguf format)+TTS+STT+Word+Excel
  ☆92Updated 6 months ago
• uniai-lab / GLM-API
  Customize APIs from GLM, ChatGLM
  ☆67Updated 3 months ago
• billvsme / train_law_llm
  ✏️0成本LLM微调上手项目，⚡️一步一步使用colab训练法律LLM，基于microsoft/phi-1_5、chatglm3，包含lora微调，全参微调
  ☆58Updated last year
• waveboy800 / bge-large-zh_api
  bge-large-zh api service
  ☆20Updated last year
• v3ucn / llama3-txt2json-dataset-maker
  文本语料转训练集工具，txt转dataset
  ☆82Updated 8 months ago
• catundchat / Dify_chatbot
  Dify 云服务 | 心理学知识库 | 聊天机器人
  ☆35Updated last year
• billvsme / my_openai_api
  部署你自己的OpenAI api🤩, 基于flask, transformers (使用 Baichuan2-13B-Chat-4bits 模型, 可以运行在单张Tesla T4显卡) ，实现了OpenAI中Chat, Models和Completions接口，包含流式响…
  ☆88Updated last year
• NanGePlus / AutoGenV04Test
  AutoGen最新架构v0.4正式发布第一个稳定版本，v0.4是对AutoGen的一次从头开始的重写，目的是为构建Agent创建一个更健壮、可扩展、更易用的跨语言库，其应用接口采用分层架构设计，存在多套软件接口用以满足不同的场景需求 。
  ☆41Updated last week
• sugarforever / spark-api-gateway
  ☆69Updated last year
• Filifun / digital-wavlipgfp
  数字人训练
  ☆16Updated last year
• yuanquderzi / ChatTTS-Deployment-using-FastAPI-and-Streamlit
  使用 FastAPI、Streamlit本地部署ChatTTS文本转语音模型，并通过 Docker Compose 进行容器化部署。
  ☆25Updated 4 months ago
• lrbmike / langchain_pdf
  LangChain实现的基于PDF文档构建问答知识库
  ☆31Updated 9 months ago
• Executedone / ChatGLM4Tools
  chatglm-6B for tools application using langchain
  ☆75Updated last year
• v3ucn / visual_chatgpt_mps_cut
  微软开源的可视化ChatGPT改造为苹果M系列芯片基于MPS版本，减少内存占用
  ☆15Updated last year
• MoranCoder95 / pipeline-ChatGLM
  流水线系统(pipeline)构建基于本地知识库的ChatGLM问答
  ☆86Updated last year
• caixukun-jinitaimei / Edubot
  基于Linly-Talker数字人改版的教育系统，包含网课总结、数字人对话、Chatbot对话，项目可在autodl部署
  ☆22Updated 8 months ago
• shell-nlp / gpt_server
  gpt_server是一个用于生产级部署LLMs或Embedding的开源框架。
  ☆148Updated 2 weeks ago
• HG-ha / SenseVoice-Api
  阿里SenseVoice的fastpi封装，采用onnx发布，体积更小，附带量化模型，支持GPU。支持从URL文件进行语音识别。
  ☆51Updated 4 months ago
• sophgo / ChatGLM3-TPU
  run chatglm3-6b in BM1684X
  ☆37Updated 10 months ago
• magicyuan876 / mineru-server
  MinerU API Server
  ☆11Updated 4 months ago
• openvino-dev-samples / Qwen2.openvino
  This sample shows how to deploy Qwen2 using OpenVINO
  ☆35Updated 4 months ago
• zfanswer / dify-on-dingtalk
  dify-on-dingtalk是一个非常轻量级的 Dify 的钉钉机器人集成方案。可以通过简单配置来对接你的Dify应用和企业内部机器人，实现企业内部机器人的群聊、私聊智能问答，且支持钉钉的AI卡片流式打字机输出效果。
  ☆43Updated 5 months ago