OvJat / DeepSpeedTutorialLinks
DeepSpeed Tutorial
☆102Updated last year
Alternatives and similar repositories for DeepSpeedTutorial
Users that are interested in DeepSpeedTutorial are comparing it to the libraries listed below
Sorting:
- DeepSpeed教程 & 示例注释 & 学习笔记 (大模型高效训练)☆177Updated 2 years ago
- 欢迎来到 "LLM-travel" 仓库!探索大语言模型(LLM)的奥秘 🚀。致力于深入理解、探讨以及实现与大模型相关的各种技术、原理和应用。☆338Updated last year
- 包含程序员面试大厂面试题和面试经验☆176Updated 3 months ago
- 一些大语言模型和多模态模型的生态,主要包括跨模态搜索、投机解码、QAT量化、多模态量化、ChatBot、OCR☆188Updated 3 weeks ago
- ☆115Updated last year
- This is a repository used by individuals to experiment and reproduce the pre-training process of LLM.☆470Updated 4 months ago
- personal chatgpt☆384Updated 8 months ago
- Inference code for LLaMA models☆123Updated 2 years ago
- LLM Tokenizer with BPE algorithm☆34Updated last year
- an implementation of transformer, bert, gpt, and diffusion models for learning purposes☆157Updated 10 months ago
- WWW2025 Multimodal Intent Recognition for Dialogue Systems Challenge☆125Updated 10 months ago
- 使用单个24G显卡,从0开始训练LLM☆55Updated 2 months ago
- 训练一个对中文支持更好的LLaVA模型,并开源训练代码和数据。☆70Updated last year
- Train a 1B LLM with 1T tokens from scratch by personal☆727Updated 4 months ago
- 通义千问VLLM推理部署DEMO☆598Updated last year
- 使用sentencepiece中BPE训练中文词表,并在transformers中进行使用。☆120Updated 2 years ago
- pytorch单精度、半精度、混合精度、单卡、多卡(DP / DDP)、FSDP、DeepSpeed模型训练代码,并对比不同方法的训练速度以及GPU内存的使用☆119Updated last year
- 阿里通义千问(Qwen-7B-Chat/Qwen-7B), 微调/LORA/推理☆115Updated last year
- 主要记录大语言大模型(LLMs) 算法(应用)工程师多模态相关知识☆237Updated last year
- 一些 LLM 方面的从零复现笔记☆219Updated 4 months ago
- ☆75Updated 3 months ago
- 《ChatGPT原理与实战:大型语言模型的算法、技术和私有化》☆364Updated last year
- ☆114Updated 10 months ago
- TinyRAG☆333Updated 2 months ago
- Huggingface transformers的中文文档☆271Updated last year
- 中文大模型微调(LLM-SFT), 数学指令数据集MWP-Instruct, 支持模型(ChatGLM-6B, LLaMA, Bloom-7B, baichuan-7B), 支持(LoRA, QLoRA, DeepSpeed, UI, TensorboardX), 支持(微…☆210Updated last year
- ☆53Updated 2 years ago
- ☆106Updated 11 months ago
- ChatGLM-6B添加了RLHF的实现,以及部分核心代码的逐行讲解 ,实例部分是做了个新闻短标题的生成,以及指定context推荐的RLHF的实现☆87Updated 2 years ago
- 使用 Qwen2ForSequenceClassification 简单实现文本分类任务。☆83Updated last year