fattank / deepseek-on-vllm-VRAMandDRAMLinks
一套基于Vllm的显存内存混合模式大模型部署工具(图形界面),VRAMandDRAM模式虽然慢一点,但是解决了超大模型在普通家用计算机上的部署问题。
☆88Updated 6 months ago
Alternatives and similar repositories for deepseek-on-vllm-VRAMandDRAM
Users that are interested in deepseek-on-vllm-VRAMandDRAM are comparing it to the libraries listed below
Sorting:
- Ollama Desktop是基于Ollama引擎的一个桌面应用解决方案,用于在macOS、Windows和Linux操作系统上运行和管理Ollama模型的GUI工具。☆172Updated 3 months ago
- 打造最简单的TTS前端集合,最简单的有声小说制作工作流。基于正则规则对小说进行分句,基于RoBERTa对小说中的对话进行说话人识别,从而实现一键式生成多人有声小说。多说话人的语音合成,高质量的有声小说制作。☆135Updated 2 months ago
- Causallm14b大模型量化版本,基于DPO算法改进,无内容审查,无思想钢印,百无禁忌Webui☆203Updated last year
- 多AI混合思考工作流,实现任何大模型的多步纠错思维链。☆84Updated 4 months ago
- MinerU是一款开源的高质量PDF解析工具,基于深度学习技术,可自动提取PDF文档中的文字、表格、图片、公式等内容,并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简化版本的WebUI,方便用户上传PDF文件,并实时展示提取结果。☆271Updated 10 months ago
- AI虚拟伙伴Linux版☆114Updated 2 months ago
- 🌈 MEGREZ | 🍒 Make Extendable GPU Resource EASY☆118Updated last month
- This is an open-source RSS crawler with an LLM interface, and it can use LLM to analyze news feeds☆155Updated 7 months ago
- 一个轻量级的 API 增强服务,为各大模型 API 添加实时联网搜索能力,让 AI 回答更加准确、及时。☆374Updated 8 months ago
- Ollama 模型 Registry 镜像站 / 加速器,让 Ollama 从 ModelScope 魔搭 更快的 拉取 / 下载 模型。☆104Updated 6 months ago
- 一款面向网文作者与编辑团队的开源创作与阅读一体化引擎。它基于 Next.js + TypeScript 构建,前端直调 Gemini,内置在线书城解析、创作管理、AI 率检测等模块。项目强调“高可插拔、强兼容、前后端皆可跑”,即装即用,亦可按需扩展服务端能力(代理、Genk…☆90Updated 2 weeks ago
- 自动化控制、可视化操作、自动连点器、流程自动化、RPA☆68Updated 8 months ago
- ☆271Updated 3 months ago
- 为 Cherry Studio 提供一个API 服务,将Cherry Studio 作为一个客户端,维护RAG和模型信息,然后API服务可以对外提供服务☆110Updated 9 months ago
- CosyVoice2 功能扩充(预训练音色推理/3s极速复刻/自然语言控制/自动识别/音色模型保存/API)☆171Updated 7 months ago
- 一个用于解析小说并通过TTS转换为语音的JavaFX软件(A novel parser and converter use TTS)☆140Updated 3 weeks ago
- 一个语音识别项目☆49Updated 5 months ago
- ☆170Updated 7 months ago
- 多平台 文生图/图生图 等能力接入MCP☆175Updated last week
- Docker镜像下载工具 Easily download images without Docker client☆77Updated 2 months ago
- A fine-tuned model from Qwen2.5-1.5B-Instruct, capable of handling sensitive topics. / 从 Qwen2.5-1.5B-Instruct 微调,主要擅长处理色情话题☆193Updated last year
- Make Office/WPS more powerful and easier to use with AI, similar to Office Copilot and WordGPT.☆293Updated last week
- 【ai来事】B站/油管/小红书/抖音等自媒体视频相关 交流群: https://qr61.cn/oohivs/qRp62U6☆179Updated 7 months ago
- MinerU免安装部署一键启动整合包☆13Updated last week
- GOT-OCR的GUI版本,提 供OCR、导出PDF、批处理等功能,但不提供训练功能☆182Updated 2 weeks ago
- 无需通过 WSL 和 虚拟机,完美适配 Windows 环境,可直接启动运行的 SearXNG☆43Updated 5 months ago
- 使用Cloudflare Worker代理Gemini 多模态 API☆249Updated 10 months ago
- 给予Deepseek实现任意模型多模态/联网/强推理功能。☆210Updated 8 months ago
- Umi-OCR Linux 运行环境☆143Updated 7 months ago
- 安全、快速的给你的小爱音箱接入人工智能。☆391Updated 6 months ago