Alternatives and similar repositories for Practical-local-LLM-programming

Users that are interested in Practical-local-LLM-programming are comparing it to the libraries listed below

• Xiaolong-RRL / qwen2_5_vllm_fastapi
  使用FastAPI+vLLM部署Qwen2.5
  ☆17Updated 8 months ago
• 1694439208 / GOT-OCR-Inference
  研究GOT-OCR-项目落地加速，不限语言
  ☆60Updated 7 months ago
• LDLINGLINGLING / adan_application
  一些大语言模型和多模态模型的应用,主要包括小模型，Agent，跨模态搜索，OCR、RAG、ChatBot等等
  ☆171Updated 3 weeks ago
• Ace-bb / LLM-based-graph-tool
  一个基于多模态大模型的图表解析器
  ☆29Updated 2 months ago
• owenliang / DeepSeek-Distill-Qwen-For-Child
  ☆41Updated 2 months ago
• DataXujing / DeepSeek-R1-Android
  安卓手机部署DeepSeek-R1 蒸馏的1.5B模型
  ☆21Updated 4 months ago
• 360AILABNLP / 360LayoutAnalysis
  ☆27Updated 7 months ago
• pydaxing / clip_blip_embedding_rag
  在RAG技术中，嵌入向量的生成和匹配是关键环节。本文介绍了一种基于CLIP/BLIP模型的嵌入服务，该服务支持文本和图像的嵌入生成与相似度计算，为多模态信息检索提供了基础能力。
  ☆26Updated 5 months ago
• Gmgge / ImageAnalysisService
  轻量模型的图像分析web服务，包括倾斜矫正OCR，公章(印章)检测+识别，车牌识别。api方案使用FastAPI+Gunicorn，提供gradio展示。
  ☆98Updated last year
• liguodongiot / unify-easy-llm
  unify-easy-llm（ULM）旨在打造一个简易的一键式大模型训练工具，支持Nvidia GPU、Ascend NPU等不同硬件以及常用的大模型。
  ☆55Updated 10 months ago
• ArtificialZeng / baichuan-speedup
  纯c++的全平台llm加速库，支持python调用，支持baichuan, glm, llama, moss基座，手机端流畅运行chatglm-6B级模型单卡可达10000+token / s，
  ☆45Updated last year
• Alannikos / FunGPT
  In this fast-paced world, we all need a little something to spice up life. Whether you need a glass of sweet talk to lift your spirits or…
  ☆58Updated last week
• taishan1994 / Qwen2-UIE
  基于Qwen2模型进行通用信息抽取【实体/关系/事件抽取】
  ☆31Updated 10 months ago
• kivenyangming / OpencvSocket
  这是一个使用opencv读取视频并使用socket进行传输视频画面的脚本文件，相较于调用ffmpeg传输节约了90%的数据量
  ☆11Updated last year
• hubo0417 / EasyGC
  集成了LLM与SDXL的AIGC应用程序
  ☆29Updated last year
• Mingrui-Li / Qwen-VL-Lora-Model
  可以成功Lora微调的Qwen-VL模型
  ☆18Updated last year
• xingxing2233 / DH-Live-Web-UI
  DH-Live-Web-UI
  ☆17Updated 9 months ago
• hzauzxb / guidance-ocr
  视觉信息抽取任务中，使用OCR识别结果规范多模态大模型的回答
  ☆34Updated 5 months ago
• morsoli / llmbenchmark
  大模型API性能指标比较 - 深入分析TTFT、TPS等关键指标
  ☆17Updated 8 months ago
• chatchat-space / chatchat-knowledgebase
  属于每个人的公众号”查特查特“上线啦！新问题、新方法、新发现，欢迎提PR！
  ☆45Updated last year
• sophgo / ChatGLM2-TPU
  run ChatGLM2-6B in BM1684X
  ☆49Updated last year
• WalkerMitty / PDFparser
  Here is a demo for PDF parser (Including OCR, object detection tools)
  ☆35Updated 7 months ago
• reilxlx / llava-Qwen2-7B-Instruct-Chinese-CLIP
  模型 llava-Qwen2-7B-Instruct-Chinese-CLIP 增强中文文字识别能力和表情包内涵识别能力，接近gpt4o、claude-3.5-sonnet的识别水平！
  ☆23Updated 10 months ago
• Zeyi-Lin / Qwen3-Medical-SFT
  Qwen3 Fine-tuning: Medical R1 Style Chat
  ☆58Updated last week
• percent4 / yi_vl_experiment
  本项目是关于Yi的多模态系列模型，如Yi-VL-6B/34B等的实验与应用。
  ☆13Updated last year
• DataXujing / Qwen1.5-0.5b-chat-android
  基于MNN-llm的安卓手机部署大语言模型：Qwen1.5-0.5B-Chat
  ☆79Updated last year
• v3ucn / llama3-txt2json-dataset-maker
  文本语料转训练集工具，txt转dataset
  ☆92Updated last year
• BADBADBADBOY / CardDetectRotate
  卡证和文档检测和矫正
  ☆59Updated 8 months ago
• NanGePlus / CrewAITest
  使用CrewAI+FastAPI搭建多Agent协作应用并对外提供API服务，同时支持gpt、国产大模型、Ollama本地大模型。
  ☆71Updated 7 months ago
• threeColorFr / LLMforDialogDataGenerate
  Generate dialog data from documents using LLM like ChatGLM2 or ChatGPT;利用ChatGLM2,ChatGPT等大模型根据文档生成对话数据集
  ☆157Updated last year