Alternatives and similar repositories for llm-benchmark:

Users that are interested in llm-benchmark are comparing it to the libraries listed below

• BADBADBADBOY / CardDetectRotate
  卡证和文档检测和矫正
  ☆49Updated 6 months ago
• yuxiaoranyu / stable_diffusion_trt_triton
  ☆19Updated last year
• DataXujing / DeepSeek-R1-Android
  安卓手机部署DeepSeek-R1 蒸馏的1.5B模型
  ☆19Updated last month
• Tlntin / qwen-ascend-llm
  ☆39Updated 5 months ago
• kivenyangming / OpencvSocket
  这是一个使用opencv读取视频并使用socket进行传输视频画面的脚本文件，相较于调用ffmpeg传输节约了90%的数据量
  ☆11Updated 10 months ago
• morsoli / llmbenchmark
  大模型API性能指标比较 - 深入分析TTFT、TPS等关键指标
  ☆16Updated 6 months ago
• sophgo / ChatGLM2-TPU
  run ChatGLM2-6B in BM1684X
  ☆49Updated last year
• TRT2022 / ControlNet_TensorRT
  天池 NVIDIA TensorRT Hackathon 2023 —— 生成式AI模型优化赛 初赛第三名方案
  ☆49Updated last year
• FeiGeChuanShu / trt2023
  NVIDIA TensorRT Hackathon 2023复赛选题：通义千问Qwen-7B用TensorRT-LLM模型搭建及优化
  ☆41Updated last year
• hzauzxb / guidance-ocr
  视觉信息抽取任务中，使用OCR识别结果规范多模态大模型的回答
  ☆27Updated 3 months ago
• wangzyon / pyInfer
  async inference for machine learning model
  ☆26Updated 2 years ago
• Ace-bb / LLM-based-graph-tool
  一个基于多模态大模型的图表解析器
  ☆23Updated this week
• bug-developer021 / YOLOV5_optimization_on_triton
  Compare multiple optimization methods on triton to imporve model service performance
  ☆50Updated last year
• DataXujing / TensorRT-LLM-ChatGLM3
  大模型部署实战：TensorRT-LLM, Triton Inference Server, vLLM
  ☆26Updated last year
• BADBADBADBOY / baipiaoOCR
  convert paddleOCR to torchOCR, ppocr-v3,ppocr-v4, onnx, openvino
  ☆32Updated last year
• richjjj / cuvid-tensorrt-multi
  ffmpeg+cuvid+tensorrt+multicamera
  ☆12Updated 3 months ago
• MAhaitao999 / Yolov3_Dynamic_Batch_TensorRT_Triton
  将Yolov3模型转成可以进行动态Batch的TensorRT推理以及Triton Inference Serving上部署的TensorRT模型
  ☆28Updated 4 years ago
• RapidAI / RapidTableDetection
  检测和提取各种场景图片中的表格区域，并纠正透视和旋转问题 Detect and extract table regions from images in various scenarios, and correct perspective and rotation i…
  ☆73Updated 3 months ago
• LDLINGLINGLING / adan_application
  一些大语言模型和多模态模型的应用,主要包括Rag，小模型，Agent，跨模态搜索，OCR等等
  ☆158Updated 4 months ago
• SWHL / TrOCR-Formula-Rec
  基于TrOCR + UniMER-1M数据集，训练一个小而美的公式识别模型
  ☆21Updated 4 months ago
• pydaxing / clip_blip_embedding_rag
  在RAG技术中，嵌入向量的生成和匹配是关键环节。本文介绍了一种基于CLIP/BLIP模型的嵌入服务，该服务支持文本和图像的嵌入生成与相似度计算，为多模态信息检索提供了基础能力。
  ☆19Updated 3 months ago
• liguodongiot / unify-easy-llm
  unify-easy-llm（ULM）旨在打造一个简易的一键式大模型训练工具，支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。
  ☆55Updated 8 months ago
• jiangnanboy / Doc-Image-Tool
  文档图像处理工具(Document image processing tool)，包括漂白 / 文字方向矫正 / 清晰增强 / 笔记去噪美化 / 去阴影 / 扭曲矫正 / 切边增强(DocBleach / TextOrientationCorrection / DocSha…
  ☆44Updated 7 months ago
• xiaqing10 / RKNN_YOLOV5S_CPP
  基于rknn的yolov5的cpp实现，包含各种依赖库，是一个完整工程，可直接编译运行
  ☆19Updated 3 years ago
• zhaohb / fastapi_tritonserver
  ☆27Updated 4 months ago
• KMnO4-zx / xlab-huanhuan
  ☆60Updated last year
• 1694439208 / GOT-OCR-Inference
  研究GOT-OCR-项目落地加速，不限语言
  ☆59Updated 5 months ago
• Tlntin / ChatGLM2-6B-TensorRT
  ☆90Updated last year
• PaddlePaddle / EasyData
  ☆94Updated 2 years ago
• sanbuphy / SmartPaper
  A mini assistant to help you read paper quickly
  ☆36Updated this week