bbruceyuan / LLMs-101
从零到一实现一个 miniLLM~(动手学习LLM)
☆67Updated last year
Alternatives and similar repositories for LLMs-101:
Users that are interested in LLMs-101 are comparing it to the libraries listed below
- 从0到1构建一个MiniLLM (pretrain+sft+dpo实践中)☆425Updated last month
- 从0开始,将chatgpt的技术路线跑一遍。☆232Updated 8 months ago
- 一些 LLM 方面的从零复现笔记☆187Updated last week
- This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.☆426Updated this week
- 欢迎来到 "LLM-travel" 仓库!探索大语言模型(LLM)的奥秘 🚀。致力于深入理解、探讨以及实现与大模型相关的各种技术、原理和应用。☆317Updated 9 months ago
- TinyRAG☆294Updated last week
- ☆64Updated last year
- ☆109Updated 5 months ago
- LLM101n: Let's build a Storyteller 中文版☆131Updated 8 months ago
- an implementation of transformer, bert, gpt, and diffusion models for learning purposes☆155Updated 6 months ago
- 一个很小很小的RAG系统☆215Updated last week
- 训练一个对中文支持更好的LLaVA模型,并开源训练代码和数据。☆54Updated 8 months ago
- 这是一个从头训练大语言模型的项目,包括预训练、微调和直接偏好优化,模型拥有1B参数,支持中英文。☆379Updated 2 months ago
- ☆71Updated 8 months ago
- Alpaca Chinese Dataset -- 中文指令微调数据集☆199Updated 7 months ago
- 快速入门RAG与私有化部署☆178Updated last year
- ☆70Updated 2 months ago
- RAG 论文学习☆120Updated last month
- 大语言模型应用:RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化学习、天池数据竞赛☆61Updated 2 months ago
- 中文大模型微调(LLM-SFT), 数学指令数据集MWP-Instruct, 支持模型(ChatGLM-6B, LLaMA, Bloom-7B, baichuan-7B), 支持(LoRA, QLoRA, DeepSpeed, UI, TensorboardX), 支持(微…☆198Updated 11 months ago
- 该仓库主要记录 LLMs 算法工程师相关的顶会论文研读笔记(多模态、PEFT、小样本QA问答、RAG、LMMs可解释性、Agents、CoT)☆320Updated last year
- personal chatgpt☆362Updated 4 months ago
- 使用单个24G显卡,从0开始训练LLM☆53Updated 6 months ago
- 尝试自己从头写一个LLM,参考llama和nanogpt☆60Updated last year
- unify-easy-llm(ULM)旨在打造一个简易的一键式大模型训练工具,支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。☆55Updated 9 months ago
- 对llama3进行全参微调、lora微调以及qlora微调。☆193Updated 7 months ago
- RAG兴趣小组,全手写的一个RAG应用。Langchain的大部分库会很方便,但是你不一定理解其中原理,所以代码尽可能展现基本算法,主打理解RAG的原理☆214Updated 7 months ago
- 怎么训练一个LLM分词器☆144Updated last year
- 看图学大模型☆294Updated 9 months ago
- ☆30Updated 9 months ago