yinghuo302 / ascend-llm
基于昇腾310芯片的大语言模型部署
☆10Updated 3 months ago
Related projects: ⓘ
- Deploying LLMs offline on the NVIDIA Jetson platform marks the dawn of a new era in embodied intelligence, where devices can function ind…☆70Updated 5 months ago
- 基于InternLM2大模型的离线具身智能导盲犬☆60Updated 5 months ago
- LLM Tokenizer with BPE algorithm☆23Updated 4 months ago
- ☆23Updated last year
- Minicpm和MiniCPM-V的项目和教程。包括推理，量化，边端部署，微调，技术报告、应用六个主题☆87Updated last week
- ☆36Updated last month
- LLM101n: Let's build a Storyteller 中文版☆113Updated last month
- 专注于Python/C++/CUDA、ML/DL/RL和NLP/KG/DS/LLM领域的技术分享。☆59Updated 2 months ago
- 本项目是自动化学报中AUTOPLAN的代码地址，使用大语言模型完成了复杂任务的任务规划以及任务执行☆57Updated 3 weeks ago
- ☆46Updated 6 months ago
- Inference code for LLaMA models☆101Updated last year
- run ChatGLM2-6B in BM1684X☆48Updated 6 months ago
- 模型压缩的小白入门教程☆135Updated this week
- 用VLLM框架部署千问1.5并进行流式输出☆22Updated 5 months ago
- ☆14Updated last month
- qwen ai agent☆102Updated 7 months ago
- simple decoder-only GTP model in pytorch☆27Updated 4 months ago
- LLM 推理服务性能测试☆24Updated 9 months ago
- 大模型/LLM推理和部署理论与实践☆35Updated last month
- MoE model with onnx runtime☆18Updated 4 months ago
- 基于《西游记》原文、白话文、ChatGPT生成数据制作的，以InternLM2微调的角色扮演多LLM聊天室。 本项目将介绍关于角色扮演类 LLM 的一切，从数据获取、数据处理，到使用 XTuner 微调并部署至 OpenXLab，再到使用 LMDeploy 部署，以 op…☆76Updated 5 months ago
- ☆70Updated last month
- Music large model based on InternLM2-chat.☆21Updated 2 months ago
- ☆90Updated last year
- 一个用于学习的仿Pytorch纯Python实现的自动求导工具。☆45Updated 4 months ago
- 使用ONNXRuntime部署yolov5-lite目标检测，包含C++和Python两个版本的程序☆55Updated 2 years ago
- 欢迎来到 LLM-Dojo，这里是一个开源大模型学习场所，使用简洁且易阅读的代码构建模型训练框架(支持各种主流模型如Qwen、Llama、GLM等等)、RLHF框架(DPO/CPO/KTO/PPO)等各种功能。👩🎓👨🎓☆225Updated this week
- Generate dialog data from documents using LLM like ChatGLM2 or ChatGPT;利用ChatGLM2,ChatGPT等大模型根据文档生成对话数据集☆135Updated 10 months ago
- 帮助新手快速入门、快速使用、习惯 OpenMMLab 开源库官方文档且能够自主上手实验，自由选择阅读更深层的知识。☆54Updated last year
- 《多模态大模型：新一代人工智能技术范式》作者：刘阳，林倞☆104Updated 3 months ago