Alternatives and similar repositories for pretrain-LLM-from-scratch

Users that are interested in pretrain-LLM-from-scratch are comparing it to the libraries listed below

• cwxndl / LLM
  大语言模型应用：RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化学习、天池数据竞赛
  ☆62Updated 4 months ago
• ShaohonChen / transformers_from_scratch
  pretrain a wiki llm using transformers
  ☆47Updated 9 months ago
• liguodongiot / unify-easy-llm
  unify-easy-llm（ULM）旨在打造一个简易的一键式大模型训练工具，支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。
  ☆55Updated 11 months ago
• zhangzhenyu13 / llm3s-conatiner
  large language model training-3-stages+deployment
  ☆48Updated last year
• liucongg / LLMsBook
  大型语言模型实战指南：应用实践与场景落地
  ☆73Updated 9 months ago
• shibing624 / agentica
  Agentica: Effortlessly Build Intelligent, Reflective, and Collaborative Multimodal AI Agents! 构建智能的多模态AI Agent。
  ☆175Updated this week
• Sshuoshuo / easy-rag
  快速入门RAG与私有化部署
  ☆192Updated last year
• hengjiUSTC / learn-llm
  ☆109Updated 7 months ago
• bbruceyuan / LLMs-101
  从零到一实现一个 miniLLM～（动手学习LLM）
  ☆74Updated last year
• li-xiu-qi / data_analysis_agent
  数据分析智能体 (Data Analysis Agent)：基于LLM的智能数据分析智能体
  ☆25Updated 3 weeks ago
• MetaGLM / FinGLM2
  智谱AI 2024年金融行业大模型挑战赛仓库
  ☆51Updated 4 months ago
• SmartFlowAI / Hand-on-RAG
  顾名思义：手搓的RAG
  ☆125Updated last year
• limafang / agent-arxiv-daily
  🎓Automatically Update agent Papers Daily using Github Actions (Update Every 12th hours)每日更新agent相关论文（已附带中文摘要翻译）
  ☆30Updated this week
• FLAME-ruc / FLAME
  ☆44Updated 5 months ago
• NanGePlus / PromptLangChainTest
  本项目主要介绍prompt工程相关用例。包括模拟智能推荐客服系统构建和问答、思维链、自洽性、思维树等相关进阶demo，旨在帮助大家理解prompt。通过一份代码实现了同时支持多种大模型（如OpenAI、阿里通义千问等）并使用FastAPI对应用进行API封装。
  ☆30Updated 9 months ago
• MetaGLM / OpenLM
  本项目致力于为大模型领域的初学者提供全面的知识体系，包括基础和高阶内容，以便开发者能迅速掌握大模型技术栈并全面了解相关知识。
  ☆61Updated 5 months ago
• HuggingAGI / HuggingArxivLLM
  ☆87Updated this week
• MetaGLM / LawGLM
  探索 LLM 在法律行业的应用潜力
  ☆90Updated 6 months ago
• OceanPresentChao / llm-ReAct
  从零搭建Agent框架(Build LLM ReAct Agent from scratch)
  ☆77Updated 8 months ago
• Chen-GX / C-3PO
  [ICML2025] The official implementation of "C-3PO: Compact Plug-and-Play Proxy Optimization to Achieve Human-like Retrieval-Augmented Gene…
  ☆23Updated last month
• CLUEbenchmark / SuperCLUE-RAG
  中文原生检索增强生成测评基准
  ☆118Updated last year
• NanGePlus / LightRAGTest
  LightRAG与GraphRAG在索引构建、检索测试中的耗时、模型请求次数、Token消耗金额、检索质量等方面进行对比
  ☆99Updated 6 months ago
• jiangxinke / Agentic-RAG-R1
  Agentic RAG R1 Framework via Reinforcement Learning
  ☆235Updated last month
• KMnO4-zx / TinyAgent
  基于ReAct手搓一个Agent Demo
  ☆136Updated last week
• yanqiangmiffy / how-to-train-tokenizer
  怎么训练一个LLM分词器
  ☆150Updated last year
• hyperai / vllm-cn
  vLLM Documentation in Chinese Simplified / vLLM 中文文档
  ☆80Updated last month
• SmartFlowAI / LLM101n-CN
  LLM101n: Let's build a Storyteller 中文版
  ☆131Updated 10 months ago
• datawhalechina / unlock-hf
  解锁HuggingFace生态的百般用法
  ☆91Updated 6 months ago
• Logistic98 / rag-omni
  基于大语言模型的检索增强生成RAG示例
  ☆151Updated last month
• X-PLUG / Multi-LLM-Agent
  ☆222Updated last year