Xiaolong-RRL / qwen2_5_vllm_fastapiLinks
使用FastAPI+vLLM部署Qwen2.5
☆24Updated last year
Alternatives and similar repositories for qwen2_5_vllm_fastapi
Users that are interested in qwen2_5_vllm_fastapi are comparing it to the libraries listed below
Sorting:
- 一个基于多模态向量模型及视觉多模态模型构建的图片搜索引擎&管理系统,实现精准的以文搜文,文搜图、以图搜图多种智能检索方式。An image search engine management system built upon multimodal vector models…☆72Updated last month
- 视频理解:千问视频多模态模型 & Dify☆65Updated last year
- 使用煤矿历史事故案例,事故处理报告、安全规程规章制度、技术文档、煤矿从业人员入职考试题库等数据,微调internlm2模型实现针对煤矿事故和煤矿安全知识的智能问答。☆54Updated 10 months ago
- 大模型API性能指标比较 - 深入分析TTFT、TPS等关键指标☆19Updated last year
- 模型 llava-Qwen2-7B-Instruct-Chinese-CLIP 增强中文文字识别能力和表情包内涵识别能力,接近gpt4o、claude-3.5-sonnet的识别水平!☆27Updated last year
- 读光中英文OCR onnx 版本模型使用 | Code for using the ONNX version of DuGuang OCR in both Chinese and English☆49Updated 6 months ago
- 想要从零开始训练一个中文的mini大语言模型,可以进行基本的对话,模型大小根据手头的机器决定☆63Updated last year
- 基于vllm部署qwen2.5_vl实现视频流的实时识别☆19Updated 7 months ago
- Here is a demo for PDF parser (Including OCR, object detection tools)☆36Updated last year
- Nimir 是一个基于 workflow 的标注、训练、推理一体化平台。它提供了直观的用户界面和强大的功能,通过工作流的方式将数据处理全流程有机地串联起来,实现端到端的 AI 应用开发。☆44Updated last year
- 轻量模型的图像分析web服务,包括倾斜矫正OCR,公章(印章)检测+识别,车牌识别。api方案使用FastAPI+Gunicorn,提供gradio展示。☆101Updated last year
- 一些大语言模型和多模态模 型的生态,主要包括跨模态搜索、投机解码、QAT量化、多模态量化、ChatBot、OCR☆193Updated 3 months ago
- Programming with local large language model.☆24Updated last month
- 使用django+pyecharts+PP-Human开发的动态数据大屏, 有人流数据的采集入库, 打架、摔倒等事件警报,口罩检测等实用功能。边缘端版本使用onnx推理提升效率,服务端版本支持视频流推拉☆31Updated 2 years ago
- 研究GOT-OCR-项目落地加速,不限语言☆64Updated last year
- ☆54Updated 8 months ago
- In this fast-paced world, we all need a little something to spice up life. Whether you need a glass of sweet talk to lift your spirits or…☆60Updated 5 months ago
- 安卓手机部署DeepSeek-R1 蒸馏的1.5B模型☆22Updated 9 months ago
- 基于电商数据微调的Qwen2.5系列的电商大模型,电商数据sft后电商大模型。是https://github.com/leeguandong/EcommerceLLM的升级版本。qwen2.5的效果很好。☆13Updated last year
- 本项 目借助飞桨平台,构建起一套创新的多模型协同系统,实现 PDF 文件到 Markdown 文件的高效、精准转换。☆26Updated 7 months ago
- 筱可的工程实验仓库!☆98Updated 2 weeks ago
- Finetune Llama 3, Mistral & Gemma LLMs 2-5x faster with 80% less memory☆29Updated last year
- unify-easy-llm(ULM)旨在打造一个简易的一键式大模型训练工具,支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。☆58Updated last year
- 属于每个人的公众号”查特查特“上线啦!新问题、新方法、新发现,欢迎提PR!☆47Updated last year
- ✨🦋 illufly - 【幻蝶】基于记忆蒸馏、资料检索的自我进化智能体☆74Updated 5 months ago
- 视觉信息抽取任务中,使用OCR识别结果规范多模态大模型的回答☆42Updated 10 months ago
- gpt_server是一个用于生产级部署LLMs、Embedding、Reranker、ASR、TTS、文生图、图片编辑和文生视频的开源框架。☆234Updated this week
- Python3 package for Chinese/English OCR,use paddleocr-v5 onnx model(~20MB), with ultra-fast inference speed. 基于ppocr-v5-onnx模型推理,中英文OCR开源…☆113Updated 4 months ago
- ✅Deploy PaddleOCR with flask | 利用Flask对PaddleOCR进行部署,方便调用☆43Updated 3 years ago
- ☆20Updated last year