fattank / deepseek-on-vllm-VRAMandDRAMLinks
一套基于Vllm的显存内存混合模式大模型部署工具(图形界面),VRAMandDRAM模式虽然慢一点,但是解决了超大模型在普通家用计算机上的部署问题。
☆88Updated 6 months ago
Alternatives and similar repositories for deepseek-on-vllm-VRAMandDRAM
Users that are interested in deepseek-on-vllm-VRAMandDRAM are comparing it to the libraries listed below
Sorting:
- 一款面向网文作者与编辑团队的开源创作与阅读一体化引擎。它基于 Next.js + TypeScript 构建,前端直调 Gemini,内置在线书城解析、创作管理、AI 率检测等模块。项目强调“高可插拔、强兼容、前后端皆可跑”,即装即用,亦可按需扩展服务端能力(代理、Genk…☆111Updated last week
- 多AI混合思考工作流,实现任何大模型的多步纠错思维链。☆85Updated 5 months ago
- AI虚拟伙伴Linux版☆118Updated 3 months ago
- Cline中文汉化版,Cline是一款在您的 IDE 中运行的自 主编程助手,经您许可后可以创建/编辑文件、运行命令、使用浏览器等功能。☆442Updated 2 weeks ago
- 打造最简单的TTS前端集合,最简单的有声小说制作工作流。基于正则规则对小说进行分句,基于RoBERTa对小说中的对话进行说话人识别,从而实现一键式生成多人有声小说。多说话人的语音合成,高质量的有声小说制作。☆136Updated 3 months ago
- 给予Deepseek实现任意模型多模态/联网/强推理功能。☆211Updated 8 months ago
- Ollama Desktop是基于Ollama引擎的一个桌面应用解决方案,用于在macOS、Windows和Linux操作系统上运行和管理Ollama模型的GUI工具。☆173Updated 4 months ago
- ☆276Updated 4 months ago
- 一个轻量级的 API 增强服务,为各大模型 API 添加实时联网搜索能力,让 AI 回答更加准确、及时。☆376Updated 9 months ago
- This is an open-source RSS crawler with an LLM interface, and it can use LLM to analyze news feeds☆158Updated 8 months ago
- ☆42Updated 6 months ago
- Causallm14b大模型量化版本,基于DPO算法改进,无内容审查,无思想钢印,百无禁忌Webui☆204Updated last year
- 无需通过 WSL 和 虚拟机,完美适配 Windows 环境,可直接启动运行的 SearXNG☆43Updated 6 months ago
- 🌈 MEGREZ | 🍒 Make Extendable GPU Resource EASY☆121Updated last month
- ☆252Updated 4 months ago
- 一个开源的多角色、多情绪 AI 配音生成平台,支持小说、剧本、视频等内容的自动配音与导出。☆226Updated last week
- VChat,专为VCPToolBox设计的前端界面。一个优雅,强大的Agent聊天客户端,内置插件商店!☆266Updated this week
- 自动从 other-blowsnow/n8n-i18n-chinese 拉取最新 Release,构建包含简体中文语言包的 n8n 前端 dist 产物,并同步为自定义 Docker 镜像自动发布。☆28Updated 5 months ago
- 自动化控制、可视化操作、自动连点器、流程自动化、RPA☆68Updated 9 months ago
- 一个语音识别项目☆49Updated 6 months ago
- embedding vector agent☆172Updated last week
- 实验ai小说☆419Updated 4 months ago
- MinerU是一款开源的高质量PDF解析工具,基于深度学习技术,可自动提取PDF文档中的文字、表格、图片、公式等内容,并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简化版本的WebUI,方便用户上传PDF文件,并实时展示提取结果。☆282Updated 11 months ago
- 为 Cherry Studio 提供一个API 服务,将Cherry Studio 作为一个客户端,维护RAG和模型信息,然后API服务可以对外提供服务☆114Updated 10 months ago
- Ollama 模型 Registry 镜像站 / 加速器,让 Ollama 从 ModelScope 魔搭 更快的 拉取 / 下载 模型。☆108Updated 7 months ago
- 多平台 文生图/图生图 等能力接入MCP☆184Updated last month
- 使用 Deno 免费代理 Google Gemini,国内直连,不限地区/网络环境,打开即用。☆507Updated 4 months ago
- ⭐零门槛的3D桌面伴侣!支持接入QQ、B站直播、RAG、联网、长期记忆、 酒馆角色卡、claude code 、浏览器控制、Dify、 Home Assistant、MCP、A2A、Comfyui、数字人口播等功能!⭐ A 3D desktop companion with…☆1,261Updated last week
- CosyVoice2 功能扩充(预训练音色推理/3s极速复刻/自然语言控制/自动识别/音色模型保存/API)☆175Updated 8 months ago
- ☆210Updated 2 months ago