Xiaolong-RRL / qwen2_5_vllm_fastapiLinks
使用FastAPI+vLLM部署Qwen2.5
☆19Updated 8 months ago
Alternatives and similar repositories for qwen2_5_vllm_fastapi
Users that are interested in qwen2_5_vllm_fastapi are comparing it to the libraries listed below
Sorting:
- 使用煤矿历史事故案例,事故处理报告、安全规程规章制度、技术文档、煤矿从业人员入职考试题库等数据,微调internlm2模型实现针对煤矿事故和煤矿安全知识的智能问答。☆48Updated 5 months ago
- 一个基于多模态向量模型及视觉多模态模型构建的图片搜索引擎&管理系统,实现精准的以文搜文,文搜图、以图搜图多种智能检索方式。An image search engine management system built upon multimodal vector models…☆42Updated this week
- Programming with local large language model.☆19Updated last month
- 基于大模型的视频监控危险行为检测系统,集成YOLOv8、GPT-4V等视觉和多模态AI模型,提供高精度危险行为识别、场景理解和智能告警分析。☆38Updated 2 months ago
- ☆41Updated 3 months ago
- 视频理解:千问视频多模态模型 & Dify☆59Updated 9 months ago
- 视觉信息抽取任务中,使用OCR识别结果规范多模态大模型的回答☆35Updated 5 months ago
- Here is a demo for PDF parser (Including OCR, object detection tools)☆35Updated 8 months ago
- Tracking the hot Github repos and update daily 每天自动追踪Github热门项目☆49Updated this week
- 基于电商数据微调的Qwen2.5系列的电商大模型,电商数据sft后电商大模型。是https://github.com/leeguandong/EcommerceLLM的升级版本。qwen2.5的效果很好。☆13Updated 8 months ago
- bisheng-unstructured library☆51Updated last month
- 研究GOT-OCR-项目落地加速,不限语言☆60Updated 8 months ago
- ☆57Updated 8 months ago
- 使用django+pyecharts+PP-Human开发的动态数据大屏, 有人流数据的采集入库, 打架、摔倒等事件警报,口罩检测等实用功能。边缘端版本使用onnx推理提升效率,服务端版本支持视频流推拉☆32Updated 2 years ago
- Accelerating GOT-OCRv2 with VLLM☆9Updated 7 months ago
- TPO 是一个优化 LLM 输出文本的框架,通过迭代反馈和优化提示的方式来“微调模型”,而非直接调整模型的参数,使模型在推理过程中与人类偏好对齐 以生成更好的结果。本项目提供了一个友好的 WebUI 来加载模型,实时优化基础模型并展示最佳结果。☆10Updated 4 months ago
- 模型 llava-Qwen2-7B-Instruct-Chinese-CLIP 增强中文文字识别能力和表情包内涵识别能力,接近gpt4o、claude-3.5-sonnet的识别水平!☆23Updated 11 months ago
- 可以成功Lora微调的Qwen-VL模型☆18Updated last year
- Python3 package for Chinese/English OCR, with paddleocr-v4 onnx model(~14MB). 基于ppocr-v4-onnx模型推理,可实现 CPU 上毫秒级的 OCR 精准预测,通用场景中英文OCR达到 开源SO…☆87Updated 5 months ago
- 集成了LLM与SDXL的AIGC应用程序☆29Updated last year
- Qwen-Efficient-Tuning☆43Updated last year
- 一个基于大模型的智能合同审查工具,可以自动分析合同内容,检查规则合规性和关键要素。☆18Updated 3 months ago
- 一个基于多模态大模型的图表解析器☆30Updated 2 months ago
- In this fast-paced world, we all need a little something to spice up life. Whether you need a glass of sweet talk to lift your spirits or…☆58Updated 3 weeks ago
- 安卓手机部署DeepSeek-R1 蒸馏的1.5B模型☆21Updated 4 months ago
- 基于GLM4-Chat实现本地知识库查询以及Agent☆7Updated last year
- 大模型API性能指标比较 - 深入分析TTFT、TPS等关键指标☆18Updated 9 months ago
- 属于每个人的公众号”查特查特“上线啦!新问题、新方法、新发现,欢迎提PR!☆45Updated last year
- 想要从零开始训练一个中文的mini大语言模型,可以进行基本的对话,模型大小根据手头的机器决定☆60Updated 10 months ago
- 补充了一些Visualglm缺少的文件,可以对Visualglm进行训练,实例中是对人脸做了面相的识别☆13Updated 2 years ago