fattank / deepseek-on-vllm-VRAMandDRAMLinks
一套基于Vllm的显存内存混合模式大模型部署工具(图形界面),VRAMandDRAM模式虽然慢一点,但是解决了超大模型在普通家用计算机上的部署问题。
☆78Updated 3 months ago
Alternatives and similar repositories for deepseek-on-vllm-VRAMandDRAM
Users that are interested in deepseek-on-vllm-VRAMandDRAM are comparing it to the libraries listed below
Sorting:
- 多AI混合思考工作流,实现任何大模型的多步纠错思维链。☆64Updated last month
- 打造最简单的TTS前端集合,最简单的有声小说制作工作流。基于正则规则对小说进行分句,基于RoBERTa对小说中的对话进行说话人识别,从而实现一键式生成多人有声小说。多说话人的语音合成,高质量的有声小说制作。☆124Updated 4 months ago
- Ollama Desktop是基于Ollama引擎的一个桌面应用解决方案,用于在macOS、Windows和Linux操作系统上运行和管理Ollama模型的GUI工具。☆165Updated 3 weeks ago
- Cline中文汉化版,Cline是一款在您的 IDE 中运行的自主编程助手,经您许可后可以创建/编辑文件、运行命令、使用浏览器等功能。☆363Updated 3 weeks ago
- Ollama 模型 Registry 镜像站 / 加速器,让 Ollama 从 ModelScope 魔搭 更快的 拉取 / 下载 模型。☆98Updated 3 months ago
- 一个语音识别项目☆43Updated 2 months ago
- ☆202Updated 3 weeks ago
- AI虚拟伙伴Linux版☆98Updated 2 weeks ago
- embedding vector agent☆167Updated last week
- Causallm14b大模型量化版本,基于DPO算法改进,无内容审查,无思想钢印,百无禁忌Webui☆200Updated last year
- 无需通过 WSL 和 虚拟机,完美适配 Windows 环境,可直接启动运行的 SearXNG☆35Updated 2 months ago
- This is an open-source RSS crawler with an LLM interface, and it can use LLM to analyze news feeds☆147Updated 4 months ago
- 一个轻量级的 API 增强服务,为各大模型 API 添加实时联网搜索能力,让 AI 回答更加准确、及时。☆372Updated 5 months ago
- n8n 配置多语言☆786Updated last week
- 给予Deepseek实现任意模型多模态/联网/强推理功能。☆208Updated 5 months ago
- 🌈 MEGREZ | 🍒 Make Extendable GPU Resource EASY☆111Updated 2 weeks ago
- 一款易用的自签证书管理系统☆118Updated 4 months ago
- 安全、快速的给你的小爱音箱接入人工智能。☆379Updated 3 months ago
- MinerU是一款开源的高质量PDF解析工具,基于深度学习技术,可自动提取PDF文档中的文字、表格、图片、公式等内容,并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简化版本的WebUI,方便用户上传PDF文件,并实时展示提取结果。☆235Updated 8 months ago
- ☆32Updated 3 months ago
- 为 Cherry Studio 提供一个API 服务,将Cherry Studio 作为一个客户端,维护RAG和模型信息,然后API服务可以对外提供服务☆100Updated 6 months ago
- ☆223Updated 3 weeks ago
- 一个用于解析中文小说并通过Edge TTS转换为语音的JavaFX软件(A novel converter uses EdgeTTS)☆123Updated 2 weeks ago
- 实验ai小说☆380Updated 2 weeks ago
- ⭐ A 3D AI desktop companion with endless possibilities! It already supports RAG, web search, long-term memory, code interpreters, MCP, A2…☆233Updated last week
- AIWriting AI写作 AI写小说 自动批量生成章节,设定更新,记忆上下文等。☆173Updated 2 weeks ago
- Make Office/WPS more powerful and easier to use with AI, similar to Office Copilot and WordGPT.☆231Updated last week
- GOT-OCR的GUI版本,提供OCR、导出PDF、批处理等功能,但不提供训练功能☆178Updated 3 weeks ago
- CosyVoice在Windows环境下使用的版本☆717Updated 8 months ago
- ☆319Updated 5 months ago