puppyapple / Chinese_LLM_From_Scratch
☆30Updated 6 months ago
Alternatives and similar repositories for Chinese_LLM_From_Scratch:
Users that are interested in Chinese_LLM_From_Scratch are comparing it to the libraries listed below
- This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.☆415Updated this week
- 从0到1构建一个MiniLLM (pretrain+sft+dpo实践中)☆408Updated last week
- 一些 LLM 方面的从零复现笔记☆179Updated 6 months ago
- 从0开始,将chatgpt的技术路线跑一遍。☆226Updated 7 months ago
- 此项目完成了关于 NLP-Beginner:自然语言处理入门练习 的所有任务(文本分类、信息抽取、知识图谱、机器翻译、问答系统、文本生成、Text-to-SQL、文本纠错、文本挖掘、知识蒸馏、模型加速、OCR、TTS、Prompt、embedding等),所有代码都经过测试…☆193Updated last year
- Alpaca Chinese Dataset -- 中文指令微调数据集☆193Updated 5 months ago
- ☆106Updated 9 months ago
- 一个基于HuggingFace开发的大语言模型训练、测试工具。支持各模型的webui、终端预测,低参数量及全参数模型训练(预训练、SFT、RM、PPO、DPO)和融合、量化。☆215Updated last year
- ☆31Updated 7 months ago
- Baichuan2代码的逐行解析版本,适合小白☆213Updated last year
- 基于ChatGLM3基座模型和LLAMA-Factory框架进行微调的一个中医问答机器人☆82Updated last year
- TinyRAG☆282Updated 5 months ago
- llm-medical-data:用于大模型微调训练的医疗数据集☆103Updated last year
- 大语言模型微调,Qwen2VL、Qwen2、GLM4指令微调☆354Updated 2 months ago
- 从零到一实现一个 miniLLM~(动手学习LLM)☆64Updated 11 months ago
- 大模型检索增强生成技术最佳实践。☆72Updated 7 months ago
- 对llama3进行全参微调、lora微调以及qlora微调。☆187Updated 6 months ago
- qwen models finetuning☆94Updated 3 weeks ago
- 怎么训练一个LLM分词器☆142Updated last year
- Firefly中文LLaMA-2大模型,支持增量预训练Baichuan2、Llama2、Llama、Falcon、Qwen、Baichuan、InternLM、Bloom等大模型☆408Updated last year
- 基于大语言模型的检索增强生成RAG示例☆137Updated 3 months ago
- 中文大模型微调(LLM-SFT), 数学指令数据集MWP-Instruct, 支持模型(ChatGLM-6B, LLaMA, Bloom-7B, baichuan-7B), 支持(LoRA, QLoRA, DeepSpeed, UI, TensorboardX), 支持(微…☆190Updated 10 months ago
- ☆60Updated 7 months ago
- Phi2-Chinese-0.2B 从0开始训练自己的Phi2中文小模型,支持接入langchain加载本地知识库做检索增强生成RAG。Training your own Phi2 small chat model from scratch.☆545Updated 8 months ago
- Train a 1B LLM with 1T tokens from scratch by personal☆591Updated 3 weeks ago
- 阿里天池: 2023全球智能汽车AI挑战赛——赛道一:AI大模型检索问答 baseline 80+☆95Updated last year
- 快速入门RAG与私有化部署☆163Updated 11 months ago
- ☆106Updated 4 months ago
- 从小说中提取对话数据集☆176Updated 9 months ago
- ☆69Updated last month