xxcheng0708 / pytorch-model-train-templateLinks
pytorch单精度、半精度、混合精度、单卡、多卡(DP / DDP)、FSDP、DeepSpeed模型训练代码,并对比不同方法的训练速度以及GPU内存的使用
☆129Updated last year
Alternatives and similar repositories for pytorch-model-train-template
Users that are interested in pytorch-model-train-template are comparing it to the libraries listed below
Sorting:
- DeepSpeed教程 & 示例注释 & 学习笔记 (大模型高效训练)☆186Updated 2 years ago
- ☆43Updated last year
- DeepSpeed Tutorial☆106Updated last year
- 多模态 MM +Chat 合集☆282Updated 5 months ago
- 主要记录大语言大模型(LLMs) 算法(应用)工程师多模态相关知识☆266Updated last year
- 一款便捷的抢占显卡脚本