MGzhou / modelscope-agent-with-local-llm
本项目基于modelscope-agent-v0.3和 api-for-open-llm 或 llamacpp 组件共同实现了一个AI Agent,能够利用本地的大模型(LLM)实现使用自定义工具功能。使用了Qwen1.5大模型。
☆17Updated 11 months ago
Alternatives and similar repositories for modelscope-agent-with-local-llm:
Users that are interested in modelscope-agent-with-local-llm are comparing it to the libraries listed below
- qwen ai agent☆130Updated last year
- 专注于对话系统领域的技术分享,重点写《Dify应用操作和源码剖析》专栏。☆89Updated 8 months ago
- 部署你自己的OpenAI api🤩, 基于flask, transformers (使用 Baichuan2-13B-Chat-4bits 模型, 可以运行在单张Tesla T4显卡) ,实现了OpenAI中Chat, Models和Completions接口,包含流式响…☆93Updated last year
- 学习ChatGLM3模型和LangChain框架的架构与核心功能,并基于LangChain+ChatGLM3实现本地知识库问答。☆39Updated last year
- chatglm3base模型的有监督微调SFT☆74Updated last year
- 基于ChatGLM3基座模型和LLAMA-Factory框架进行微调的一个中医问答机器人☆82Updated last year
- ☆59Updated 5 months ago
- Alpaca Chinese Dataset -- 中文指令微调数据集☆193Updated 5 months ago
- A high-throughput and memory-efficient inference and serving engine for LLMs☆132Updated 3 months ago
- Generate dialog data from documents using LLM like ChatGLM2 or ChatGPT;利用ChatGLM2,ChatGPT等大模型根据文档生成对话数据集☆154Updated last year
- 通义千问VLLM推理部署DEMO☆556Updated last year
- 通义千问 SFT试验☆68Updated last year
- ChatGPT WebUI using gradio. 给 LLM 对话和检索知识问答RAG提供一个简单好用的Web UI界面☆122Updated 7 months ago
- chatglm-6B for tools application using langchain☆75Updated last year
- 本项目主要介绍prompt工程相关用例。包括模拟智能推荐客服系统构建和问答、思维链、自洽性、思维树等相关进阶demo,旨在帮助大家理解prompt。通过一份代码实现了同时支持多种大模型(如OpenAI、阿里通义千问等)并使用FastAPI对应用进行API封装。☆28Updated 6 months ago
- RAG向量召回示例☆117Updated last year
- 在本项目中模拟健康档案私有知识库构建和检索全流程,通过一份代码实现了同时支持多种大模型(如OpenAI、阿里通义千 问等)的RAG(检索增强生成)功能:(1)离线步骤:文档加载->文档切分->向量化->灌入向量数据库;在线步骤:获取用户问题->用户问题向量化->检索向量数据库…☆117Updated 6 months ago
- 阿里通义千问(Qwen-7B-Chat/Qwen-7B), 微调/LORA/推理☆89Updated 10 months ago
- 探索 LLM 在法律行业的应用潜力☆85Updated 3 months ago
- LLaMA-Factory使用经验记录☆28Updated 7 months ago
- RAG-QA-Generator 是一个用于检索增强生成(RAG)系统的自动化知识库构建与管理工具。该工具通过读取文档数据,利用大规模语言模型生成高质量的问答对(QA对),并将这些数据插入数据库中,实现RAG系统知识库的自动化构建和管理。☆144Updated 3 months ago
- 从langchain-ChatGLM基础上修改的一个可以加载TigerBot模型的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。☆106Updated last year
- 一个改来改去的baseline☆43Updated 3 months ago
- ☆85Updated 3 weeks ago
- ☆97Updated 3 weeks ago
- unify-easy-llm(ULM)旨在打造一个简易的一键式大模型训练工具,支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。☆55Updated 8 months ago
- llamafactory blog☆16Updated 5 months ago
- 智谱AI 2024年金融行业大模型挑战赛仓库☆44Updated last month
- 大语言模型应用:RAG、NL2SQL、聊天机器人、预训练、MOE混合专家模型、微调训练、强化学习、天池数据竞赛☆58Updated last month
- kbqa,langchain,large langauge model, chatgpt☆79Updated 5 months ago