fattank / deepseek-on-vllm-VRAMandDRAMLinks
一套基于Vllm的显存内存混合模式大模型部署工具(图形界面),VRAMandDRAM模式虽然慢一点,但是解决了超大模型在普通家用计算机上的部署问题。
☆62Updated last month
Alternatives and similar repositories for deepseek-on-vllm-VRAMandDRAM
Users that are interested in deepseek-on-vllm-VRAMandDRAM are comparing it to the libraries listed below
Sorting:
- 一个语音识别项目☆39Updated 3 weeks ago
- GOT-OCR的GUI版本,提供OCR、导出PDF、批处理等功能,但不提供训练功能☆172Updated 3 weeks ago
- AI虚拟伙伴Linux版☆67Updated last week
- 基于MinerU的桌面应用程序,MinerU是一款开源的高质量PDF解析工具,基于深度学习技术,可自动提取PDF文档中的文字、表格、图片、公式等内容,并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简化版本的WebUI,方便用户上传PDF文件,并实时展示提取结果。☆83Updated 7 months ago
- 无需通过 WSL 和 虚拟机,完美适配 Windows 环境,可直接启动运行的 SearXNG☆29Updated 3 weeks ago
- MinerU是一款开源的高质量PDF解析工具,基于深度学习技术,可自动提取PDF文档中的文字、表格、图片、公式等内容,并提供丰富的分析、统计、搜索等功能。 本项目为其提供一个简 化版本的WebUI,方便用户上传PDF文件,并实时展示提取结果。☆200Updated 6 months ago
- Ollama 模型 Registry 镜像站 / 加速器,让 Ollama 从 ModelScope 魔搭 更快的 拉取 / 下载 模型。☆92Updated last month
- 多AI混合思考工作流,实现任何大模型的多步纠错思维链。☆62Updated last month
- 🤯 Lobe Chat - an open-source, modern-design LLMs/AI chat framework. Supports Multi AI Providers( OpenAI / Claude 3 / Gemini / Perplexity…☆273Updated 9 months ago
- 打造最简单的TTS前端集合,最简单的有声小说制作工作流。基于正则规则对小说进行分句,基于RoBERTa对小说中的对话进行说话人识别,从而实现一键式生成多人有声小说。多说话人的语音合成,高质量的有声小说制作。☆92Updated 2 months ago
- 给予Deepseek实现任意模型多模态/联网/强推理功能。☆209Updated 3 months ago
- 无内容审核写作大模型rwkv的本地webui项目,接入GPT-SoVITS☆53Updated last year
- ☆292Updated 3 months ago
- ☆93Updated 3 weeks ago
- 为 Cherry Studio 提供一个API 服务,将Cherry Studio 作为一个客户端,维护RAG和模型信息,然后API服务可以对外提供服务☆93Updated 4 months ago
- Unsloth框架在Windows平台微调训练Qwen2大模型,非WSL☆60Updated 11 months ago
- embedding vector agent☆165Updated last week
- 基于 chatgpt-web 兼容 LLM Red Team 项目下所有的 free-api 以及 one-api 或 new-api提供的接口和 key☆219Updated last year
- ⭐A new generation of agent management mid-platform! Upgrade your LLM API to Agent API with one click! Support for windows / macOS / linux…☆91Updated this week
- 一款易用的自签证书管理系统☆108Updated 2 months ago
- n8n 配置多语言☆331Updated this week
- 一个全新的,强大的AI-API-工具交互范式工具箱。目前已实现所有插件功能,已更新至正式版。☆160Updated this week
- The AI-powered PPT generation service based on ChatPPT can create presentations based on themes, requirements, or uploaded documents, sup…☆48Updated last week
- PromptX是一个系统性的, 工程化的提示词管理框架,它提供了结构化、模块化的方式来构建和管理AI提示词。☆138Updated this week
- Causallm14b大模型量化版本,基于DPO算法改进,无内容审查,无思想钢印,百无禁忌Webui☆199Updated last year
- 一个用于解析中文小说并通过Edge TTS转换为语音的JavaFX软件(A novel converter uses EdgeTTS)☆114Updated this week
- ☆192Updated 2 weeks ago
- Dify 新闻聚合插件-多平台新闻热榜获取☆32Updated 3 weeks ago
- 实验ai小说☆348Updated last week
- Ollama Desktop是基于Ollama引擎的一个桌面应用解决方案,用于在macOS、Windows和Linux操作系统上运行和管理Ollama模型的GUI工具。☆154Updated 3 months ago