fattank / deepseek-on-vllm-VRAMandDRAMLinks
一套基于Vllm的显存内存混合模式大模型部署工具(图形界面),VRAMandDRAM模式虽然慢一点,但是解决了超大模型在普通家用计算机上的部署问题。
☆74Updated 2 months ago
Alternatives and similar repositories for deepseek-on-vllm-VRAMandDRAM
Users that are interested in deepseek-on-vllm-VRAMandDRAM are comparing it to the libraries listed below
Sorting:
- ☆155Updated last week
- This is an open-source RSS crawler with an LLM interface, and it can use LLM to analyze news feeds☆143Updated 4 months ago
- 多AI混合思考工作流,实现任何大模型的多步纠错思维链。☆63Updated last month
- embedding vector agent☆166Updated this week
- 一个轻量级的 API 增强服务,为各大模型 API 添加实时联网搜索能力,让 AI 回答更加准确、及时。☆370Updated 5 months ago
- AI虚拟伙伴Linux版☆85Updated last month
- 使用 Deno 免费代理 Google Gemini,国内直连,不限地区/网络环境,打开即用。☆355Updated 2 weeks ago
- 无需通过 WSL 和 虚拟机,完美适配 Windows 环境,可直接启动运行的 SearXNG☆33Updated 2 months ago
- 一个语音识别项目☆43Updated 2 months ago
- ☆152Updated last week
- GOT-OCR的GUI版本,提供OCR、导出PDF、批处理等功能,但不提供训练功能☆177Updated last week
- 打造最简单的TTS前端集合,最简单的有声小说制作工作流。基于正则规则对小说进行分句,基于RoBERTa对小说中的对话进行说话人识别,从而实现一键式生成多人有声小说。多说话人的语音合成,高质量的有声小说制作。☆118Updated 3 months ago
- 给予Deepseek实现任意模型多模态/联网/强推理功能。☆209Updated 4 months ago
- Causallm14b大模型量化版本,基于DPO算法改进,无内容审查,无思想钢印,百无禁忌Webui☆200Updated last year
- MinerU是一款开源的高质量PDF解析工具,基于深度学习技术,可自动提取PDF文档中的文字、表格、图片、公式等内容,并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简化版本的WebUI,方便用户上传PDF文件,并实时展示提取结果。☆224Updated 7 months ago
- 简单的聊天网页,适配思维链模型☆173Updated 3 months ago
- CosyVoice在Windows环境下使用的版本☆704Updated 7 months ago
- 🚀 豆包大模型逆向API【特长:超强联网搜索】,零配置部署,多路token支持,仅供测试,如需商用请前往官方开放平台。☆422Updated 2 months ago
- 一个全新的,强大的AI-API-工具交互范式工具箱。独立Agent封装,非线性超异步工作流,交叉记忆网络,五大插件协议,完整Websocket和WebDav功能,支持分布式部署和算力均衡!☆18Updated this week
- Ollama Desktop是基于Ollama引擎的一个桌面应用解决方案,用于在macOS、Windows和Linux操作系统上运行和管理Ollama模型的GUI工具。☆163Updated last week
- 基于Faster-whisper和modelscope一键生成双语字幕,双语字幕生成器,基于离线大模型,Generate bilingual subtitles with one click based on Faster-whisper and modelscope. O…☆392Updated 7 months ago
- 自动化控制、可视化操作、自动连点器、流程自动化、RPA☆59Updated 4 months ago
- 一个用于解析中文小说并通过Edge TTS转换为语音的JavaFX软件(A novel converter uses EdgeTTS)☆118Updated 2 weeks ago
- Cline中文汉化版,Cline是一款在您的 IDE 中运行的自主编程助手,经您许可后可以创建/编辑文件、运行命令、使用浏览器等功能。☆338Updated last week
- Unsloth框架在Windows平台微调训练Qwen2大模型,非WSL☆61Updated last year
- CosyVoice2 功能扩充(预训练音色推理/3s极速复刻/自然语言控制/自动识别/音色模型保存/API)☆151Updated 4 months ago
- 使用Cloudflare Worker代理Gemini 多模态 API☆231Updated 6 months ago
- 实验ai小说☆373Updated 3 weeks ago
- n8n 配置多语言☆625Updated last week
- 支持接入Dify or Coze的微信聊天机器人,自带配置UI,支持Workflow,可自定义编排AI作业任务,原生支持永久记忆功能,支持GPT-SoVITS自定义音色,支持RVC翻唱,能够发送原生微信语音气泡☆76Updated 3 months ago