从零实现一个小参数量中文大语言模型。
☆952Aug 22, 2024Updated last year
Alternatives and similar repositories for tiny-llm-zh
Users that are interested in tiny-llm-zh are comparing it to the libraries listed below
Sorting:
- 一个很小很小的RAG系统☆346Apr 29, 2025Updated 10 months ago
- 主要记录大语言大模型（LLMs） 算法（应用）工程师相关的知识及面试题☆12,546Apr 30, 2025Updated 10 months ago
- 从0开始，将chatgpt的技术路线跑一遍。☆272Sep 5, 2024Updated last year
- 从0到1构建一个MiniLLM (pretrain+sft+dpo实践中)☆531Mar 23, 2025Updated 11 months ago
- 从零实现一个 llama3 中文版☆1,013Jun 12, 2024Updated last year
- 中文对话0.2B小模型（ChatLM-Chinese-0.2B），开源所有数据集来源、数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等流程的全部代码。支持下游任务sft微调，给出三元组信息抽取微调示例。☆1,675Apr 20, 2024Updated last year
- 用于从头预训练+SFT一个小参数量的中文LLaMa2的仓库；24G单卡即可运行得到一个具备简单中文问答能力的chat-llama2.☆2,897May 21, 2024Updated last year
- DL & ML & RS☆697Nov 23, 2024Updated last year
- Python 实现 MCP client / service☆66May 7, 2025Updated 9 months ago
- 该仓库主要记录 大模型（LLMs） 算法工程师相关的面试题☆2,440Dec 26, 2024Updated last year
- 本项目旨在分享大模型相关技术原理以及实战经验（大模型工程化、大模型应用落地）☆23,265Updated this week
- 主要记录大语言大模型（LLMs） 算法（应用）工程师多模态相关知识☆268May 12, 2024Updated last year
- Train a 1B LLM with 1T tokens from scratch by personal☆789Apr 27, 2025Updated 10 months ago
- Phi2-Chinese-0.2B 从0开始训练自己的Phi2中文小模型，支持接入langchain加载本地知识库做检索增强生成RAG。Training your own Phi2 small chat model from scratch.☆584Jul 11, 2024Updated last year
- 🚀🚀 「大模型」2小时完全从0训练26M的小参数GPT！🌏 Train a 26M-parameter GPT from scratch in just 2h!☆40,273Feb 6, 2026Updated 3 weeks ago
- 本项目主要对开源的MOSS SFT数据进行整理 ，转换成mnbvc多轮对话格式。MOSS-003涵盖用性、忠实性、无害性三个层面，共353w样本，MOSS-003 包含更细粒度的有用性类别标记、更广泛的无害性数据和更长对话轮数，共630w样本，☆12Dec 3, 2023Updated 2 years ago
- This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.☆495May 1, 2025Updated 10 months ago
- 《大模型白盒子构建指南》：一个全手搓的Tiny-Universe☆4,525Feb 12, 2026Updated 2 weeks ago
- 仅需Python基础，从0构建大语言模型；从0逐步构建GLM4\Llama3\RWKV6， 深入理解大模型原理☆3,968Aug 15, 2024Updated last year
- A Comprehensive survey on business use cases of AI that help them thrive in the digital economy☆13Oct 7, 2020Updated 5 years ago
- 想要从零开始训练一个中文的mini大语言模型，可以进行基本的对话，模型大小根据手头的机器决定☆65Aug 14, 2024Updated last year
- 整理开源的中文大语言模型，以规模较小、可私有化部署、训练成本较低的模型为主，包括底座模型，垂直领域微调及应用，数据集与教程等。☆22,269May 19, 2025Updated 9 months ago
- 《开源大模型食用指南》针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程☆28,441Feb 24, 2026Updated last week
- 每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈☆5,602Feb 5, 2026Updated 3 weeks ago
- Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)☆67,659Updated this week
- An instruction tuned large language model with extra support for poetry and verse generation☆25Jun 5, 2023Updated 2 years ago
- 这是一个从头训练大语言模型的项目，包括预训练、微调和直接偏好优化，模型拥有1B参数，支持中英文。☆757Feb 18, 2025Updated last year
- Building a Large Language Model (From Scratch) to understand and create your own GPT-like large language models (LLMs) from the ground up…☆13May 8, 2025Updated 9 months ago
- 训练一个对中文支持更好的LLaVA模型，并开源训练代码和数据。☆79Sep 6, 2024Updated last year
- ☆17Aug 28, 2025Updated 6 months ago
- AIGC-interview/CV-interview/LLMs-interview面试问题与答案集合仓，同时包含工作和科研过程中的新想法、新问题、新资源与新项目☆2,757Oct 30, 2025Updated 4 months ago
- 🚀 「大模型」1小时从0训练26M参数的视觉多模态VLM！🌏 Train a 26M-parameter VLM from scratch in just 1 hours!☆6,487Feb 4, 2026Updated 3 weeks ago
- ☆14Apr 1, 2025Updated 11 months ago
- This is a AUTOSAR documents specific retriever based on LLM and RAG.☆16Nov 12, 2024Updated last year
- ☆32Jul 8, 2025Updated 7 months ago
- LLMs interview notes and answers:该仓库主要记录大模型（LLMs）算法工程师相关的面试题和参考答案☆1,301Dec 14, 2023Updated 2 years ago
- Firefly: 大模型训练工具，支持训练Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、…☆6,635Oct 24, 2024Updated last year
- 中文翻译的 Hands-On-Large-Language-Models (hands-on-llms)，动手学习大模型☆2,217Oct 19, 2025Updated 4 months ago
- LLM notes, including model inference, transformer model structure, and llm framework code analysis notes.☆862Dec 10, 2025Updated 2 months ago