Alternatives and similar repositories for self-hosted

Users that are interested in self-hosted are comparing it to the libraries listed below

• seanzhang-zhichen / llama3-chinese
  Llama3-Chinese是以Meta-Llama-3-8B为底座，使用 DORA + LORA+ 的训练方法，在50w高质量中文多轮SFT数据 + 10w英文多轮SFT数据 + 2000单轮自我认知数据训练而来的大模型。
  ☆295Updated last year
• shell-nlp / gpt_server
  gpt_server是一个用于生产级部署LLMs、Embedding、Reranker、ASR和TTS的开源框架。
  ☆194Updated this week
• ShaohonChen / transformers_from_scratch
  pretrain a wiki llm using transformers
  ☆47Updated 9 months ago
• open-chinese / alpaca-chinese-dataset
  Alpaca Chinese Dataset -- 中文指令微调数据集
  ☆208Updated 8 months ago
• llama-factory / llamafactory
  llamafactory blog
  ☆29Updated 8 months ago
• owenliang / qwen-vllm
  通义千问VLLM推理部署DEMO
  ☆584Updated last year
• FlagOpen / FlagData
  ☆339Updated last year
• KMnO4-zx / extract-dialogue
  从小说中提取对话数据集
  ☆205Updated last year
• QwenLM / vllm-gptq
  A high-throughput and memory-efficient inference and serving engine for LLMs
  ☆135Updated 6 months ago
• CrazyBoyM / phi3-Chinese
  Phi3 中文后训练模型仓库
  ☆321Updated 7 months ago
• kaixindelele / ChatSensitiveWords
  利用LLM+敏感词库，来自动判别是否涉及敏感词。
  ☆124Updated last year
• zejunwang1 / LLMTuner
  大语言模型指令调优工具（支持 FlashAttention）
  ☆173Updated last year
• charent / Phi2-mini-Chinese
  Phi2-Chinese-0.2B 从0开始训练自己的Phi2中文小模型，支持接入langchain加载本地知识库做检索增强生成RAG。Training your own Phi2 small chat model from scratch.
  ☆552Updated 11 months ago
• glide-the / InterpretationoDreams
  使用langchain进行任务规划，构建子任务的会话场景资源，通过MCTS任务执行器，来让每个子任务通过在上下文中资源，通过自身反思探索来获取自身对问题的最优答案；这种方式依赖模型的对齐偏好，我们在每种偏好上设计了一个工程框架，来完成自我对不同答案的奖励进行采样策略
  ☆29Updated last month
• git-cloner / aliendao
  huggingface mirror download
  ☆581Updated 2 months ago
• peilongchencc / My-LLaMA-Factory
  LLaMA-Factory使用经验记录
  ☆34Updated 10 months ago
• yongzhuo / ChatGLM2-SFT
  ChatGLM2-6B微调, SFT/LoRA, instruction finetune
  ☆108Updated last year
• threeColorFr / LLMforDialogDataGenerate
  Generate dialog data from documents using LLM like ChatGLM2 or ChatGPT;利用ChatGLM2,ChatGPT等大模型根据文档生成对话数据集
  ☆158Updated last year
• infinigence / Infini-Megrez
  ☆310Updated 6 months ago
• wenge-research / YAYI-UIE
  雅意信息抽取大模型：在百万级人工构造的高质量信息抽取数据上进行指令微调，由中科闻歌算法团队研发。 (Repo for YAYI Unified Information Extraction Model)
  ☆304Updated 10 months ago
• wangshuai67 / hf-mirror-cli
  hf-mirror-cli 使用国内镜像，无需配置开箱即用，快速下载hugingface上的模型
  ☆138Updated 4 months ago
• yongzhuo / LLM-SFT
  中文大模型微调(LLM-SFT), 数学指令数据集MWP-Instruct, 支持模型(ChatGLM-6B, LLaMA, Bloom-7B, baichuan-7B), 支持(LoRA, QLoRA, DeepSpeed, UI, TensorboardX), 支持(微…
  ☆203Updated last year
• FreedomIntelligence / Huatuo-26M
  The Largest-scale Chinese Medical QA Dataset： with 26,000,000 question answer pairs.
  ☆276Updated last year
• lansinuote / Simple_Generative_in_PyTorch
  ☆39Updated last year
• Zeyi-Lin / Qwen3-Medical-SFT
  Qwen3 Fine-tuning: Medical R1 Style Chat
  ☆91Updated 3 weeks ago
• SmartFlowAI / LLM101n-CN
  LLM101n: Let's build a Storyteller 中文版
  ☆131Updated 10 months ago
• Kedreamix / Xinjing-LM
  Xinjing-LM 是一个专注于心理健康领域的智能助手，基于 Qwen 模型进行微调和优化，旨在理解复杂的心理学知识、生成高质量文本并支持多轮对话。通过数据蒸馏、指令微调和多轮对话构建等技术，Xinjing-LM 在心理健康场景中表现出色，能够为用户提供准确、流畅且逻辑严…
  ☆32Updated 4 months ago
• LDLINGLINGLING / adan_application
  一些大语言模型和多模态模型的生态,主要包括跨模态搜索、投机解码、QAT量化、多模态量化、ChatBot、OCR
  ☆182Updated this week
• jiahe7ay / MINI_LLM
  This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.
  ☆444Updated last month
• KMnO4-zx / xlab-huanhuan
  ☆64Updated last year