OvJat / DeepSpeedTutorialLinks
DeepSpeed Tutorial
☆97Updated 9 months ago
Alternatives and similar repositories for DeepSpeedTutorial
Users that are interested in DeepSpeedTutorial are comparing it to the libraries listed below
Sorting:
- 包含程序员面试大厂面试题和面试经验☆132Updated 2 weeks ago
- an implementation of transformer, bert, gpt, and diffusion models for learning purposes☆153Updated 7 months ago
- DeepSpeed教程 & 示例注释 & 学习笔记 (大模型高效训练)☆164Updated last year
- 大语言模型指令调优工具(支持 FlashAttention)☆173Updated last year
- 使用sentencepiece中BPE训练中文词表 ,并在transformers中进行使用。☆117Updated last year
- ☆110Updated 11 months ago
- pytorch单精度、半精度、混合精度、单卡、多卡(DP / DDP)、FSDP、DeepSpeed模型训练代码,并对比不同方法的训练速度以及GPU内存的使用☆100Updated last year
- 欢迎来到 "LLM-travel" 仓库!探索大语言模型(LLM)的奥秘 🚀。致力于深入理解、探讨以及实现与大模型相关的各种技术、原理和应用。☆325Updated 10 months ago
- ChatGLM-6B添加了RLHF的实现,以及部分核心代码的逐行讲解 ,实例部分是做了个新闻短标题的生成,以及指定context推荐的RLHF的实现☆84Updated last year
- 主要记录大语言大模型(LLMs) 算法(应用)工程师多模态相关知识☆196Updated last year
- personal chatgpt☆372Updated 5 months ago
- deepspeed+trainer简单高效实现多卡微调大模型☆125Updated 2 years ago