从零实现一个 llama3 中文版
☆1,014Jun 12, 2024Updated last year
Alternatives and similar repositories for llama3-from-scratch-zh
Users that are interested in llama3-from-scratch-zh are comparing it to the libraries listed below
Sorting:
- 一个很小很小的RAG系统☆352Apr 29, 2025Updated 10 months ago
- 从零实现一个小参数量中文大语言模型。☆957Aug 22, 2024Updated last year
- llama3 implementation one matrix multiplication at a time☆15,242May 23, 2024Updated last year
- 主要记录大语言大模型（LLMs） 算法（应用）工程师相关的知识及面试题☆12,768Apr 30, 2025Updated 10 months ago
- DL & ML & RS☆697Nov 23, 2024Updated last year
- 本项目旨在分享大模型相关技术原理以及实战经验（大模型工程化、大模型应用落地）☆23,400Mar 1, 2026Updated last week
- 仅需Python基础，从0构建大语言模型；从0逐步构建GLM4\Llama3\RWKV6， 深入理解大模型原理☆3,984Aug 15, 2024Updated last year
- 《开源大模型食用指南》针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程☆28,676Feb 24, 2026Updated last week
- 整理开源的中文大语言模型，以规模较小、可私有化部署 、训练成本较低的模型为主，包括底座模型，垂直领域微调及应用，数据集与教程等。☆22,318May 19, 2025Updated 9 months ago
- 用于从头预训练+SFT一个小参数量的中文LLaMa2的仓库；24G单卡即可运行得到一个具备简单中文问答能力的chat-llama2.☆2,895May 21, 2024Updated last year
- 🚀🚀 「大模型」2小时完全从0训练26M的小参数GPT！🌏 Train a 26M-parameter GPT from scratch in just 2h!☆40,273Feb 6, 2026Updated last month
- 《大模型白盒子构建指南》：一个全手搓的Tiny-Universe☆4,563Feb 12, 2026Updated 3 weeks ago
- Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)☆67,966Updated this week
- 🎉My Collections of CUDA Kernels~☆11Jun 25, 2024Updated last year
- Inference deployment of the llama3☆11Apr 21, 2024Updated last year
- 《动手学大模型Dive into LLMs》系列编程实践教程☆21,101Oct 10, 2025Updated 4 months ago
- 面向开发者的 LLM 入门教程，吴恩达大模型系列课程中文版☆23,414Jun 12, 2025Updated 8 months ago
- 使用numpy从零开始实现llama3的推理流程，并对其进行封装，对比GPU,CPU上的表现以及Lora微调。llama3 implemented from scratch using numpy and lora fine-tune.。☆12Jul 16, 2024Updated last year
- 本项目是一个面向小白开发者的大模型应用开发教程，在线阅读地址：https://datawhalechina.github.io/llm-universe/☆12,061Feb 24, 2026Updated last week
- Firefly: 大模型训练工具，支持训练Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、…☆6,638Oct 24, 2024Updated last year
- 大模型基础: 一文了解大模型基础知识☆6,855Dec 18, 2025Updated 2 months ago
- Phi2-Chinese-0.2B 从0开始训练自己的Phi2中文小模型，支持接入langchain加载本地知识库做检索增强生成RAG。Training your own Phi2 small chat model from scratch.☆584Jul 11, 2024Updated last year
- 该仓库主要记录 大模型（LLMs） 算法工程师相关的面试题☆2,449Dec 26, 2024Updated last year
- ffmpeg+cuvid+tensorrt+multicamera☆12Dec 31, 2024Updated last year
- 🧑🚀 全世界最好的LLM资料总结（多模态生成、Agent、辅助编程、AI审稿、数据处理、模型训练、模型推理、o1 模型、MCP、小语言模型、视觉语言模型） | Summary of the world's best LLM resources.☆7,638Updated this week
- Llama3、Llama3.1 中文后训练版仓库 - 微调、魔改版本有趣权重 & 训练、推理、评测、部署教程视频 & 文档。☆4,154Feb 21, 2026Updated 2 weeks ago
- 中文对话0.2B小模型（ChatLM-Chinese-0.2B），开源所有数据集来源、数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等流程的全部代码。支持下游任务sft微调，给出三元组信息抽取微调示例。☆1,675Apr 20, 2024Updated last year
- 每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈☆5,706Updated this week
- Llama中文社区，实时汇总最新Llama学习资料，构建最好的中文Llama大模型开源生态，完全开源可商用☆14,746Apr 6, 2025Updated 11 months ago
- LLM notes, including model inference, transformer model structure, and llm framework code analysis notes.☆867Dec 10, 2025Updated 2 months ago
- 从0到1构建一个MiniLLM (pretrain+sft+dpo实践中)☆533Mar 23, 2025Updated 11 months ago
- 大模型算法岗面试题(含答案):常见问题和概念解析 "大模型面试题"、"算法岗面试"、"面试常见问题"、"大模型算法面试"、"大模型应用基础"☆1,653Updated this week
- Alpaca Chinese Dataset -- 中文指令微调数据集☆216Oct 6, 2024Updated last year
- Implement a ChatGPT-like LLM in PyTorch from scratch, step by step☆87,151Updated this week
- Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain…☆37,430Nov 10, 2025Updated 3 months ago
- 从无名小卒到大模型（LLM）大英雄~ 欢迎关注后续！！！☆2,048Nov 22, 2025Updated 3 months ago
- 主要记录大语言大模型（LLMs） 算法（应用）工程师多模态相关知识☆270May 12, 2024Updated last year
- 想要从零开始训练一个中文的mini大语言模型，可以进行基本的对话，模型大小根据手头的机器决定☆65Aug 14, 2024Updated last year
- Train a 1B LLM with 1T tokens from scratch by personal☆789Apr 27, 2025Updated 10 months ago