datawhalechina / llm-deploy
大模型/LLM推理和部署理论与实践
☆213Updated last week
Alternatives and similar repositories for llm-deploy:
Users that are interested in llm-deploy are comparing it to the libraries listed below
- 解锁HuggingFace生态的百般用法☆88Updated 3 months ago
- 模型压缩的小白入门教程☆251Updated 4 months ago
- TinyRAG☆275Updated 4 months ago
- 一个很小很小的RAG系统☆171Updated 3 months ago
- 通过带领大家解读Transformer模型来加深对模型的理解☆160Updated 2 weeks ago
- wow-fullstack，令人惊叹的全栈开发教程☆162Updated this week
- A simple and trans-platform rag framework and tutorial☆141Updated last week
- ☆54Updated 11 months ago
- LLM101n: Let's build a Storyteller 中文版☆129Updated 7 months ago
- 本项目为书籍《大模型RAG实战》的代码以及资料汇总。☆153Updated 4 months ago
- A simple and trans-platform agent framework and tutorial☆88Updated 3 weeks ago
- unify-easy-llm（ULM）旨在打造一个简易的一键式大模型训练工具，支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。☆55Updated 7 months ago
- LLM全栈优质资源汇总☆505Updated 3 months ago
- 大模型技术栈一览☆90Updated 5 months ago
- 一些 LLM 方面的从零复现笔记☆175Updated 6 months ago
- 从零实现一个小参数量中文大语言模型。☆536Updated 6 months ago
- 基于文心一言和树莓派Pico的最简易桌面宠物☆68Updated last month
- 此项目完成了 关于 NLP-Beginner：自然语言处理入门练习 的所有任务（文本分类、信息抽取、知识图谱、机器翻译、问答系统、文本生成、Text-to-SQL、文本纠错、文本挖掘、知识蒸馏、模型加速、OCR、TTS、Prompt、embedding等），所有代码都经过测试…☆192Updated last year
- 快速入门RAG与私有化部署☆160Updated 11 months ago
- OPEN AI通识课☆131Updated 3 months ago
- LLM大模型（重点）以及搜广推等 AI 算法中手写的面试题，（非 LeetCode），比如 Self-Attention, AUC等，一般比 LeetCode 更考察一个人的综合能力，又更 贴近业务和基础知识一点☆195Updated 2 months ago
- 从零到一实现一个 miniLLM～（动手学习LLM）☆64Updated 10 months ago
- 欢迎来到 "LLM-travel" 仓库！探索大语言模型（LLM）的奥秘 🚀。致力于深入理解、探讨以及实现与大模型相关的各种技术、原理和应用。☆302Updated 8 months ago
- 通义千问VLLM推理部署DEMO☆546Updated 11 months ago
- 从0开始，将chatgpt的技术路线跑一遍。☆223Updated 6 months ago
- 该仓库主要记 录 LLMs 算法工程师相关的顶会论文研读笔记（多模态、PEFT、小样本QA问答、RAG、LMMs可解释性、Agents、CoT）☆301Updated 11 months ago
- AGI资料汇总学习（主要包括LLM和AIGC），持续更新......☆344Updated 2 months ago
- LLM/MLOps/LLMOps☆76Updated 6 months ago