Alternatives and similar repositories for llm_benchmark

Users that are interested in llm_benchmark are comparing it to the libraries listed below

• shell-nlp / gpt_server
  gpt_server是一个用于生产级部署LLMs、Embedding、Reranker、ASR和TTS的开源框架。
  ☆206Updated last week
• pydaxing / clip_blip_embedding_rag
  在RAG技术中，嵌入向量的生成和匹配是关键环节。本文介绍了一种基于CLIP/BLIP模型的嵌入服务，该服务支持文本和图像的嵌入生成与相似度计算，为多模态信息检索提供了基础能力。
  ☆33Updated 8 months ago
• yongzhuo / LLM-SFT
  中文大模型微调(LLM-SFT), 数学指令数据集MWP-Instruct, 支持模型(ChatGLM-6B, LLaMA, Bloom-7B, baichuan-7B), 支持(LoRA, QLoRA, DeepSpeed, UI, TensorboardX), 支持(微…
  ☆209Updated last year
• lework / llm-benchmark
  LLM 并发性能测试工具，支持自动化压力测试和性能报告生成。
  ☆151Updated 5 months ago
• owenliang / qwen-vllm
  通义千问VLLM推理部署DEMO
  ☆596Updated last year
• liguodongiot / unify-easy-llm
  unify-easy-llm（ULM）旨在打造一个简易的一键式大模型训练工具，支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。
  ☆57Updated last year
• Logistic98 / rag-omni
  基于大语言模型的检索增强生成RAG示例
  ☆156Updated 3 months ago
• aigc-apps / PAI-RAG
  An easy-to-use framework for modular RAG
  ☆386Updated this week
• taishan1994 / langchain-learning
  langchain学习笔记，包含langchain源码解读、langchain中使用中文模型、langchain实例等。
  ☆221Updated 2 years ago
• chatchat-space / LangGraph-Chatchat
  ☆139Updated 5 months ago
• FlagOpen / Awesome-Industry-Dataset
  旨在收集各行业的开源数据，引导和推动行业大模型的发展
  ☆52Updated 10 months ago
• billvsme / my_openai_api
  部署你自己的OpenAI api🤩, 基于flask, transformers (使用 Baichuan2-13B-Chat-4bits 模型, 可以运行在单张Tesla T4显卡) ，实现了OpenAI中Chat, Models和Completions接口，包含流式响…
  ☆95Updated last year
• jiangnanboy / llm_corpus_quality
  大模型预训练中文语料清洗及质量评估 Large model pre-training corpus cleaning
  ☆69Updated last year
• GobinFan / python-mcp-server-client
  支持查询主流agent框架技术文档的MCP server（支持stdio和sse两种传输协议）, 支持 langchain、llama-index、autogen、agno、openai-agents-sdk、mcp-doc、camel-ai 和 crew-ai
  ☆133Updated 3 months ago
• LDLINGLINGLING / adan_application
  一些大语言模型和多模态模型的生态,主要包括跨模态搜索、投机解码、QAT量化、多模态量化、ChatBot、OCR
  ☆188Updated 2 weeks ago
• wangxb96 / RAG-QA-Generator
  RAG-QA-Generator 是一个用于检索增强生成（RAG）系统的自动化知识库构建与管理工具。该工具通过读取文档数据，利用大规模语言模型生成高质量的问答对（QA对），并将这些数据插入数据库中，实现RAG系统知识库的自动化构建和管理。
  ☆223Updated 8 months ago
• open-chinese / alpaca-chinese-dataset
  Alpaca Chinese Dataset -- 中文指令微调数据集
  ☆213Updated 10 months ago
• owenliang / rag-retrieval
  RAG向量召回示例
  ☆134Updated last year
• hustyichi / dify-rag
  dify's rag patch module
  ☆268Updated 3 weeks ago
• david-xinyuwei / david-share
  ☆341Updated this week
• yaosenJ / CoalQA
  使用煤矿历史事故案例，事故处理报告、安全规程规章制度、技术文档、煤矿从业人员入职考试题库等数据，微调internlm2模型实现针对煤矿事故和煤矿安全知识的智能问答。
  ☆51Updated 7 months ago
• chaoql / rag-best-practices
  大模型检索增强生成技术最佳实践。
  ☆83Updated 11 months ago
• Steven-Luo / MasteringRAG
  企业级RAG系统从入门到精通
  ☆547Updated 2 months ago
• shibing624 / agentica
  Agentica: Effortlessly Build Intelligent, Reflective, and Collaborative Multimodal AI Agents! 构建智能的多模态AI Agent。
  ☆201Updated 2 weeks ago
• yangxianpku / milvus
  使用Docker Stack搭建Milvus向量数据库集群
  ☆38Updated last year
• FlagOpen / FlagData
  ☆352Updated last year
• MetaGLM / LawGLM
  探索 LLM 在法律行业的应用潜力
  ☆91Updated 8 months ago
• Sshuoshuo / easy-rag
  快速入门RAG与私有化部署
  ☆204Updated last year
• xuxianren / ragflow_ocr
  ragflow中的ocr部分，非官方项目
  ☆48Updated last year
• hyperai / vllm-cn
  vLLM Documentation in Chinese Simplified / vLLM 中文文档
  ☆94Updated 3 weeks ago