fattank / deepseek-on-vllm-VRAMandDRAM
一套基于Vllm的显存内存混合模式大模型部署工具（图形界面），VRAMandDRAM模式虽然慢一点，但是解决了超大模型在普通家用计算机上的部署问题。
☆43Updated 2 weeks ago
Alternatives and similar repositories for deepseek-on-vllm-VRAMandDRAM
Users that are interested in deepseek-on-vllm-VRAMandDRAM are comparing it to the libraries listed below
Sorting:
- 一个语音识别项目☆34Updated last week
- 打造最简单的TTS前端集合，最简单的有声小说制作工作流。基于正则规则对小说进行分句，基于RoBERTa对小说中的对话进行说话人识别，从而实现一键式生成多人有声小说。多说话人的语音合成，高质量的有声小说制作。☆83Updated last month
- 基于MinerU的桌面应用程序，MinerU是一款开源的高质量PDF解析工具，基于深度学习技术，可自动提取PDF文档中的文字、表格、图片、公式等内容，并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简化版本的WebUI，方便用户上传PDF文件，并实时展示提取结果。☆80Updated 6 months ago
- 多AI混合思考工作流，实现任何大模型的多步纠错思维链。☆60Updated 3 weeks ago
- 多功能AI客户端工具箱，实现动态变量占位符，长期记忆，图床，多模态强兼容等功能。☆96Updated this week
- Dify 新闻聚合插件-多平台新闻热榜获取☆31Updated last month
- dify外接fastgpt知识库的工具☆63Updated 2 months ago
- embedding vector agent☆165Updated this week
- CosyVoice2 功能扩充（预训练音色推理/3s极速复刻/自然语言控制/自动识别/音色模型保存/API）☆113Updated 2 months ago
- 🌈 MEGREZ | 🍒 Make Extendable GPU Resource EASY☆96Updated last week
- 为 Cherry Studio 提供一个API 服务，将Cherry Studio 作为一个客户端，维护RAG和模型信息，然后API服务可以对外提供服务☆89Updated 4 months ago
- GOT-OCR的GUI版本，提供OCR、导出PDF、批处理等功能，但不提供训练功能☆170Updated this week
- 友伴(YouBand)是一款轻量、易用、跨平台的"LLM聊天机器人"桌面程序。支持QQ、微信、飞书等应用，可自由切换DeepSeek、Ollama、Qwen等大模型。让您的应用成为24小时待命的私人助理，用AI重新定义您的工作效率与生活体验。☆81Updated 2 weeks ago
- tfcenter是一款免费的内网穿透和文件管理软件，除了支持通过服务器和P2P穿透进行映射之外，还支持Webdav文件管理、本地文件管理，DDNS管理，socks5/https代码等功能。其中P2P穿透支持IPv6/Ipv4，本地文件管理支持移动端进行视频在线播放以及在线编…☆38Updated 4 months ago
- xclabel是一款支持多人协作的，样本导入+样本标注+模型训练+模型管理+模型测试+模型导出的工具☆127Updated 2 months ago
- 一个中文语音转文字项目，封装自FireRedASR☆47Updated 2 months ago
- 无需通过 WSL 和 虚拟机，完美适配 Windows 环境，可直接启动运行的 SearXNG☆18Updated this week
- MinerU是一款开源的高质量PDF解析工具，基于深度学习技术，可自动提取PDF文档中的文字、表格、图片、公式等内容，并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简化版本的WebUI，方便用户上传PDF文件，并实时展示提取结果。☆191Updated 5 months ago
- 一款易用的自签证书管理系统☆102Updated last month
- 基于gost开发的内网穿透管理工具，支持速率、连接数限制，中心化配置，通过网页修改配置，实时生效☆75Updated this week
- 无内容审核写作大模型rwkv的本地webui项目，接入GPT-SoVITS☆52Updated last year
- Make Office/WPS more powerful and easier to use with AI, similar to Office Copilot and WordGPT.☆202Updated last month
- Causallm14b大模型量化版本,基于DPO算法改进,无内容审查,无思想钢印,百无禁忌Webui☆194Updated last year
- The AI-powered PPT generation service based on ChatPPT can create presentations based on themes, requirements, or uploaded documents, sup…☆37Updated 3 weeks ago
- 一个用于解析中文小说并通过Edge TTS转换为语音的JavaFX软件（A novel converter uses EdgeTTS）☆105Updated last month
- 一款轻量级、高性能、功能强大的内网穿透代理服务器。支持tcp、udp、socks5、http等几乎所有流量转发，可用来访问内网网站、本地支付接口调试、ssh访问、远程桌面，内网dns解析、内网socks5代理等等……，并带有功能强大的web管理端。a lightweight…☆219Updated 2 months ago
- 通过AI实现对话者的识别并进行文段分割，再接入语音合成，自动生成有声小说☆14Updated last month
- n8n 配置多语言☆216Updated this week
- Ollama 模型 Registry 镜像站 / 加速器，让 Ollama 从 ModelScope 魔搭 更快的 拉取 / 下载 模型。☆89Updated 3 weeks ago
- Unsloth框架在Windows平台微调训练Qwen2大模型，非WSL☆59Updated 10 months ago