CadenCao / vllm-qwen1.5-StreamChat
用VLLM框架部署千问1.5并进行流式输出
☆22Updated 7 months ago
Related projects ⓘ
Alternatives and complementary repositories for vllm-qwen1.5-StreamChat
- 快速入门RAG与私有化部署☆131Updated 7 months ago
- ☆88Updated 4 months ago
- 阿里通义千问(Qwen-7B-Chat/Qwen-7B), 微调/LORA/推理☆68Updated 6 months ago
- 阿里天池: 2023全球智能汽车AI挑战赛——赛道一:AI大模型检索问答 baseline 80+☆76Updated 10 months ago
- 基于BM25、BGE的检索增强生成RAG示例☆99Updated 3 weeks ago
- Generate dialog data from documents using LLM like ChatGLM2 or ChatGPT;利用ChatGLM2,ChatGPT等大模型根据文档生成对话数据集☆140Updated last year
- qwen ai agent☆109Updated 9 months ago
- ChatGLM-6B添加了RLHF的实现,以及部分核心代码的逐行讲解 ,实例部分是做了个新闻短标题的生成,以及指定context推荐的RLHF的实现☆78Updated last year
- Qwen1.5-SFT(阿里, Ali), Qwen_Qwen1.5-2B-Chat/Qwen_Qwen1.5-7B-Chat微调(transformers)/LORA(peft)/推理☆44Updated 6 months ago
- Baichuan-13B 指令微调☆89Updated last year
- qwen-7b and qwen-14b finetuning☆84Updated 7 months ago
- BERT-based intent and slots detector for chatbots.☆143Updated 6 months ago
- 此项目完成了关于 NLP-Beginner:自然语言处理入门练习 的所有任务(文本分类、信息抽取、知识图谱、机器翻译、问答系统、文本生成、Text-to-SQL、文本纠错、文本挖掘、知识蒸馏、模型加速、OCR、TTS、Prompt、embedding等),所有代码都经过测试…☆176Updated last year
- 本项目是针对RAG中的Retrieve阶段的召回技术及算法效果所做评估实验。使用主体框架为LlamaIndex.☆177Updated 2 months ago
- easy-bert是一个中文NLP工具,提供诸多bert变体调用和调参方法,极速上手;清晰的设计和代码注释,也很适合学习☆72Updated 2 years ago
- 基于lora微调Qwen1.8chat的实战教程☆23Updated last month
- Baichuan2代码的逐行解析版本,适合小白☆208Updated last year
- baichuan LLM surpervised finetune by lora☆60Updated last year
- ☆90Updated last year
- chatglm3base模型的有监督微调SFT☆74Updated last year
- 2023全球智能汽车AI挑战赛——赛道一:AI大模型检索问答, 75+ baseline☆55Updated 11 months ago
- basic framework for rag(retrieval augment generation)☆75Updated 10 months ago
- 通义千问VLLM推理部署DEMO☆445Updated 7 months ago
- 使用煤矿历史事故案例,事故处理报告、安全规程规章制度、技术文档、煤矿从业人员入职考试题库等数据,微调internlm2模型实现针对煤矿事故和煤矿安全知识的智能问答。☆38Updated 2 months ago
- ChatGLM2-6B微调, SFT/LoRA, instruction finetune☆106Updated last year
- 大模型检索增强生成技术最佳实践。☆46Updated 2 months ago
- 用于大模型 RLHF 进行人工数据标注排序的工具。A tool for manual response data annotation sorting in RLHF stage.☆242Updated last year
- 大语言模型应用:RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化学习、天池数据竞赛☆48Updated 5 months ago
- 八戒-Chat是利用《西游记》剧本中所有关于猪八戒的台词和语句,以及Chat-GPT-3.5生成的相关问题结果,基于Internlm进行QLoRA微调得到的模仿猪八戒语气的聊天语言模型。☆23Updated 3 months ago
- kbqa,langchain,large langauge model, chatgpt☆78Updated last month