JiehangXie / llm2json
☆19Updated last year
Alternatives and similar repositories for llm2json:
Users that are interested in llm2json are comparing it to the libraries listed below
- 纯c++的全平台llm加速库,支持python调用,支持baichuan, glm, llama, moss基座,手机端流畅运行chatglm-6B级模型单卡可达10000+token / s,☆45Updated last year
- 属于每个人的公众号”查特查特“上线啦!新问题、新方法、新发现,欢迎提PR!☆45Updated last year
- 首个llama2 13b 中文版模型 (Base + 中文对话SFT,实现流畅多轮人机自然语言交互)☆90Updated last year
- 本项目致力于为大模型领域的初学者提供全面的知识体系,包括基础和高阶内容,以便开发者能迅速掌握大模型技术栈并全面了解相关知识。☆56Updated 3 months ago
- A high-throughput and memory-efficient inference and serving engine for LLMs☆135Updated 4 months ago
- 视频理解:千问视频多模态模型 & Dify☆50Updated 7 months ago
- vLLM Documentation in Chinese Simplified / vLLM 中文文档☆61Updated this week
- unify-easy-llm(ULM)旨在打造一个简易的一键式大模型训练工具,支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。☆55Updated 9 months ago
- 千问14B和7B的逐行解释☆57Updated last year
- baichuan-7B 微调 C++ 面试大模型☆15Updated last year
- 专注于对话系统领域的技术分享,重点写《Dify应用操作和源码剖析》专栏。☆92Updated 9 months ago
- 基于chatglm快速搭建文档问答机器人☆88Updated last year
- 全球首个StableVicuna中文优化版。☆64Updated last year
- 在RAG技术中,嵌入向量的生成和匹配是关键环节。本文介绍了一种基于CLIP/BLIP模型的嵌入服务,该服务支持文本和图像的 嵌入生成与相似度计算,为多模态信息检索提供了基础能力。☆23Updated 3 months ago
- Agentica: Effortlessly Build Intelligent, Reflective, and Collaborative Multimodal AI Agents! 轻松构建智能、具备反思能力、可协作的多模态AI Agent。☆152Updated this week
- chatglm-6B for tools application using langchain☆75Updated last year
- ChatGPT WebUI using gradio. 给 LLM 对话和检索知识问答RAG提供一个简单好用的Web UI界面☆125Updated 8 months ago
- large language model training-3-stages+deployment☆47Updated last year
- 大语言模型训练和服务调研☆37Updated last year
- 利用LLM+敏感词库,来自动判别是否涉及敏感词。☆118Updated last year
- A demo built on Megrez-3B-Instruct, integrating a web search tool to enhance the model's question-and-answer capabilities.☆37Updated 4 months ago
- ✏️0成本LLM微调上手项目,⚡️一步一步使用colab训练法律LLM,基于microsoft/phi-1_5、chatglm3,包含lora微调,全参微调