CadenCao / vllm-qwen1.5-StreamChat
用VLLM框架部署千问1.5并进行流式输出
☆28Updated 10 months ago
Alternatives and similar repositories for vllm-qwen1.5-StreamChat:
Users that are interested in vllm-qwen1.5-StreamChat are comparing it to the libraries listed below
- 阿里天池: 2023全球智能汽车AI挑战赛——赛道一:AI大模型检索问答 baseline 80+☆89Updated last year
- ☆102Updated 8 months ago
- 基于大语言模型的检索增强生成RAG示例☆126Updated 2 months ago
- Qwen1.5-SFT(阿里, Ali), Qwen_Qwen1.5-2B-Chat/Qwen_Qwen1.5-7B-Chat微调(transformers)/LORA(peft)/推理☆53Updated 9 months ago
- 快速入门RAG与私有化部署☆152Updated 10 months ago
- 专注于对话系统领域 的技术分享,重点写《Dify应用操作和源码剖析》专栏。☆77Updated 7 months ago
- Generate dialog data from documents using LLM like ChatGLM2 or ChatGPT;利用ChatGLM2,ChatGPT等大模型根据文档生成对话数据集☆152Updated last year
- 基于lora微调Qwen1.8chat的实战教程☆25Updated 4 months ago
- seq2seq_translation☆26Updated 3 years ago
- qwen-7b and qwen-14b finetuning☆91Updated 10 months ago
- 阿里通义千问(Qwen-7B-Chat/Qwen-7B), 微调/LORA/推理☆83Updated 9 months ago
- easy-bert是一个中文NLP工具,提供诸多bert变体调用和调参方法,极速上手;清晰的设计和代码注释,也很适合学习☆77Updated 2 years ago
- BERT-based intent and slots detector for chatbots.☆164Updated last week
- ChatGLM-6B添加了RLHF的实现,以及部分核心代码的逐行讲解 ,实例部分是做了个新闻短标题的生成,以及指定context推荐的RLHF 的实现☆82Updated last year
- basic framework for rag(retrieval augment generation)☆82Updated last year
- qwen ai agent☆125Updated last year
- 一些大语言模型和多模态模型的应用,主要包括Rag,小模型,Agent,跨模态搜索,OCR等等☆156Updated 3 months ago
- baichuan LLM surpervised finetune by lora☆62Updated last year
- 学习开源chatGPT类模型的指南,汇总各种训练数据获取、模型微调、模型服务的方法,以及 记录自己操作总遇到的各种常见坑,欢迎收藏、转发,希望能帮你省一些时间☆74Updated last year
- 使用单个24G显卡,从0开始训练LLM☆50Updated 4 months ago
- 想要从零开始训练一个中文的mini大语言模型,可以进行基本的对话,模型大小根据手头的机器决定☆58Updated 6 months ago
- 基于internlm-chat-7b的保险知识大模型微调☆15Updated 10 months ago
- LLM Tokenizer with BPE algorithm☆29Updated 9 months ago
- chatglm3base模型的有监督微调SFT☆74Updated last year
- AFAC2024金融智能创新大赛☆23Updated 3 months ago
- A Multi-modal RAG Project with Dataset from Honor of Kings, one of the most popular smart phone games in China☆61Updated 6 months ago
- 大语言模型应用:RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化 学习、天池数据竞赛☆56Updated 3 weeks ago
- ChatGLM2-6B微调, SFT/LoRA, instruction finetune☆105Updated last year
- ☆22Updated last year
- ☆90Updated last year