从零实现一个小参数量中文大语言模型。
☆979Aug 22, 2024Updated last year
Alternatives and similar repositories for tiny-llm-zh
Users that are interested in tiny-llm-zh are comparing it to the libraries listed below. We may earn a commission when you buy through links labeled 'Ad' on this page.
Sorting:
- 一个很小很小的RAG系统☆363Apr 29, 2025Updated 10 months ago
- 主要记录大语言大模型（LLMs） 算法（应用）工程师相关的知识及面试题☆13,311Apr 30, 2025Updated 10 months ago
- 从0开始，将chatgpt的技术路线跑一遍。☆276Sep 5, 2024Updated last year
- 从零实现一个 llama3 中文版☆1,023Jun 12, 2024Updated last year
- 从0到1构建一个MiniLLM (pretrain+sft+dpo实践中)☆541Mar 23, 2025Updated last year
- 中文对话0.2B小模型（ChatLM-Chinese-0.2B），开源所有数据集来源、数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等流程的全部代码。支持下游任务sft微调，给出三元组信息抽取微调示例。☆1,682Apr 20, 2024Updated last year
- Python 实现 MCP client / service☆69May 7, 2025Updated 10 months ago
- 用于从头预训练+SFT一个小参数量的中文LLaMa2的仓库；24G单卡即可运行得到一个具备简单中文问答能力的chat-llama2.☆2,901May 21, 2024Updated last year
- DL & ML & RS☆770Nov 23, 2024Updated last year
- 主要记录大语言大模型（LLMs） 算法（应用）工程师多模态相关知识☆272May 12, 2024Updated last year
- 该仓库主要记录 大模型（LLMs） 算法工程师相关的面试题☆2,486Dec 26, 2024Updated last year
- 本项目旨在分享大模型相关技术原理以及实战经验（大模型工程化、大模型应用落地）☆23,641Mar 12, 2026Updated last week
- 《大模型白盒子构建指南》：一个全手搓的Tiny-Universe☆4,619Feb 12, 2026Updated last month
- Train a 1B LLM with 1T tokens from scratch by personal☆792Apr 27, 2025Updated 10 months ago
- 🚀🚀 「大模型」2小时完全从0训练26M的小参数GPT！🌏 Train a 26M-parameter GPT from scratch in just 2h!☆41,885Feb 6, 2026Updated last month
- Phi2-Chinese-0.2B 从0开始训练自己的Phi2中文小模型，支持接入langchain加载本地知识库做检索增强生成RAG。Training your own Phi2 small chat model from scratch.☆586Jul 11, 2024Updated last year
- This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.☆496May 1, 2025Updated 10 months ago
- 想要从零开始训练一个中文的mini大语言模型，可以进行基本的对话，模型大小根据手头的机器决定☆65Aug 14, 2024Updated last year
- 仅需Python基础，从0构建大语言模型；从0逐步构建GLM4\Llama3\RWKV6， 深入理解大模型原理☆4,023Aug 15, 2024Updated last year
- 每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈☆5,951Mar 14, 2026Updated last week
- 整理开源的中文大语言模型，以规模较小、可私有化部署、训练成本较低的模型为主，包括底座模型，垂直领域微调及应用，数据集与教程等。☆22,408May 19, 2025Updated 10 months ago
- 《开源大模型食用指南》针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程☆29,053Mar 8, 2026Updated 2 weeks ago
- Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)☆68,728Updated this week
- 这是一个从头训练大语言模型的项目，包括预训练、微调 和直接偏好优化，模型拥有1B参数，支持中英文。☆801Feb 18, 2025Updated last year
- 训练一个对中文支持更好的LLaVA模型，并开源训练代码和数据。☆79Sep 6, 2024Updated last year
- 复现大模型相关算法及一些学习记录☆3,076Feb 10, 2026Updated last month
- ☆33Jul 8, 2025Updated 8 months ago
- 本项目主要对开源的MOSS SFT数据进行整理 ，转换成mnbvc多轮对话格式。MOSS-003涵盖用性、忠实性、无害性三个层面，共353w样本，MOSS-003 包含更细粒度的有用性类别标记、更广泛的无害性数据和更长对话轮数，共630w样本，☆12Dec 3, 2023Updated 2 years ago
- AIGC-interview/CV-interview/LLMs-interview面试问题与答案集合仓，同时包含工作和科研过程中的新想法、新问题、新资源与新项目☆2,791Mar 5, 2026Updated 2 weeks ago
- 🚀 「大模型」1小时从0训练26M参数的视觉多模态VLM！🌏 Train a 26M-parameter VLM from scratch in just 1 hours!☆6,795Feb 4, 2026Updated last month
- 使用单个24G显卡，从0开始训练LLM☆56Jul 9, 2025Updated 8 months ago
- A Comprehensive survey on business use cases of AI that help them thrive in the digital economy☆13Oct 7, 2020Updated 5 years ago
- LLMs interview notes and answers:该仓库主要记录大模型（LLMs）算法工程师相关的面试题和参考答案☆1,311Dec 14, 2023Updated 2 years ago
- 中文翻译的 Hands-On-Large-Language-Models (hands-on-llms)，动手学习大模型☆2,308Oct 19, 2025Updated 5 months ago
- 大模型算法岗面试题(含答案):常见问题和概念解析 "大模型面试题"、"算法岗面试"、"面试常见问题"、"大模型算法面试"、"大模型应用基础"☆1,781Updated this week
- Firefly: 大模型训练工具，支持训练Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、…☆6,648Oct 24, 2024Updated last year
- Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.5, DeepSeek-R1, GLM-5, InternLM3, Llama4, ...) and 300+ MLLMs (Qwen3-VL, …☆13,263Updated this week
- The official GitHub page for the survey paper "A Survey of Large Language Models".☆12,134Mar 11, 2025Updated last year
- Reproduce R1 Zero on Logic Puzzle☆2,441Mar 20, 2025Updated last year