fattank / deepseek-on-vllm-VRAMandDRAMLinks
一套基于Vllm的显存内存混合模式大模型部署工具（图形界面），VRAMandDRAM模式虽然慢一点，但是解决了超大模型在普通家用计算机上的部署问题。
☆69Updated 2 months ago
Alternatives and similar repositories for deepseek-on-vllm-VRAMandDRAM
Users that are interested in deepseek-on-vllm-VRAMandDRAM are comparing it to the libraries listed below
Sorting:
- 一个语音识别项目☆41Updated last month
- 多AI混合思考工作流，实现任何大模型的多步纠错思维链。☆62Updated last week
- 无需通过 WSL 和 虚拟机，完美适配 Windows 环境，可直接启动运行的 SearXNG☆31Updated last month
- 一个全新的，强大的AI-API-工具交互范式工具箱。独立Agent封装，非线性超异步工作流，交叉记忆网络，五大插件协议，完整Websocket和WebDav功能，支持分布式部署和算力均衡！☆187Updated this week
- AI虚拟伙伴Linux版☆77Updated last month
- Ollama 模型 Registry 镜像站 / 加速器，让 Ollama 从 ModelScope 魔搭 更快的 拉取 / 下载 模型。☆95Updated 2 months ago
- GOT-OCR的GUI版本，提供OCR、导出PDF、批处理等功能，但不提供训练功能☆173Updated last month
- 打造最简单的TTS前端集合，最简单的有声小说制作工作流。基于正则规则对小说进行分句，基于RoBERTa对小说中的对话进行说话人识别，从而实现一键式生成多人有声小说。多说话人的语音合成，高质量的有声小说制作。☆113Updated 2 months ago
- 给予Deepseek实现任意模型多模态/联网/强推理功能。☆209Updated 3 months ago
- This is an open-source RSS crawler with an LLM interface, and it can use LLM to analyze news feeds☆140Updated 3 months ago
- 基于MinerU的桌面应用程序，MinerU是一款开源的高质量PDF解析工具，基于深度学习技术，可自动提取PDF文档中的文字、表格、图片、公式等内容，并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简化版本的WebUI，方便用户上传PDF文件，并实时展示提取结果。☆89Updated 8 months ago
- 一个中文语音转文字项目，封装自FireRedASR☆59Updated 4 months ago
- ☆120Updated this week
- CosyVoice2 功能扩充（预训练音色推理/3s极速复刻/自然语言控制/自动识别/音色模型保存/API）☆141Updated 3 months ago
- ⭐A new generation of agent management mid-platform! Upgrade your LLM API to Agent API with one click! We are working hard to connect ever…☆130Updated this week
- dify外接fastgpt知识库的工具☆68Updated 3 months ago
- 通过AI实现对话者的识别并进行文段分割，再接入语音合成，自动生成有声小说☆21Updated 2 months ago
- 无内容审核写作大模型rwkv的本地webui项目，接入GPT-SoVITS☆53Updated last year
- 为 Cherry Studio 提供一个API 服务，将Cherry Studio 作为一个客户端，维护RAG和模型信息，然后API服务可以对外提供服务☆95Updated 5 months ago
- 一个将 Dify 应用程序转换为 OpenAI API 接口的网关服务，使您可以使用 OpenAI API 兼容的方式访问 Dify 的 LLM、知识库、工具和工作流程。☆136Updated last month
- n8n 配置多语言☆485Updated this week
- 使用 Deno 免 费代理 Google Gemini，国内直连，不限地区/网络环境，打开即用。☆314Updated 4 months ago
- 使用Cloudflare Worker代理Gemini 多模态 API☆220Updated 5 months ago
- Dify 新闻聚合插件-多平台新闻热榜获取☆34Updated last month
- ☆124Updated this week
- 🤯 Lobe Chat - an open-source, modern-design LLMs/AI chat framework. Supports Multi AI Providers( OpenAI / Claude 3 / Gemini / Perplexity…☆277Updated 9 months ago
- embedding vector agent☆166Updated last week
- An application that uses the Gemini API to conduct deep research. It clarifies the topic with the user, devises a research strategy, iter…☆74Updated last week
- ☆154Updated 3 months ago
- ☆196Updated 2 weeks ago