ShaohonChen / transformers_from_scratchLinks
pretrain a wiki llm using transformers
☆61Updated last year
Alternatives and similar repositories for transformers_from_scratch
Users that are interested in transformers_from_scratch are comparing it to the libraries listed below
Sorting:
- unify-easy-llm(ULM)旨在打造一个简易的一键式大模型训练工具,支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。☆60Updated last year
- 大语言模型应用:RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化学习、天池数据竞赛☆75Updated last year
- 从0开始,将chatgpt的技术路线跑一遍。☆272Updated last year
- Alpaca Chinese Dataset -- 中文指令微调数据集☆216Updated last year
- 尝试自己从头写一个LLM,参考llama和nanogpt☆68Updated last year
- 从0到1构建一个MiniLLM (pretrain+sft+dpo实践中)☆526Updated 10 months ago
- 快速入门RAG与私有化部署☆211Updated last year
- TinyRAG☆416Updated 7 months ago
- 从零到一实现一个 miniLLM~(动手学习LLM)☆77Updated last year
- simple decoder-only GTP model in pytorch☆42Updated last year
- 本项目致力于为大模型领域的初学者提供全面的知识体系,包括基础和高阶内容,以便开发者能迅速掌握大模型技术栈并全面了解相关知识。☆64Updated last year
- 基于ReAct手搓一个Agent Demo☆168Updated 7 months ago
- 解锁HuggingFace生态的百般用法☆98Updated last year
- 与Datawhale组织的现有仓库以及学习内容对话——快速找到你想学习的内容和贡献内容!☆60Updated last month
- 一些 LLM 方面的从零复现笔记☆243Updated 9 months ago
- Retriever-0.1B☆96Updated last year
- 大型语言模型实战指南:应用实践与场景落地☆87Updated last year
- Llama3-Tutorial(XTuner、LMDeploy、OpenCompass)☆512Updated last year
- ☆85Updated last year
- 本项目为书籍《大模型RAG实战》的代码以及资料汇总。☆274Updated last year
- 大模型/LLM推理和部署理论与实践☆374Updated 6 months ago
- ☆175Updated last year
- qwen ai agent☆147Updated last year
- LLM101n: Let's build a Storyteller 中文版☆137Updated last year
- FinQwen: 致力于构建一个开放、稳定、高质量的金融大模型项目,基于大模型搭建金融场景智能问答系统,利用开源开放来促进「AI+金融」。☆429Updated last year
- 通义千问VLLM推理部署DEMO☆638Updated last year
- 利用免费的大模型api来结合你的私域数据来生成sft训练数据(妥妥白嫖)支持llamafactory等工具的训练数据格式synthetic data☆194Updated last year
- 探索 LLM 在法律行业的应用潜力☆96Updated last year
- DeepSeek 系列工作解读、扩展和复现。☆700Updated 10 months ago
- 大模型检索增强生成技术最佳实践。☆88Updated last year