ADT109119 / llamacpp-distributed-inferenceLinks
一個基於 llama.cpp 的分佈式 LLM 推理程式,讓您能夠利用區域網路內的多台電腦協同進行大型語言模型的分佈式推理,使用 Electron 的製作跨平台桌面應用程式操作 UI。
☆70Updated 4 months ago
Alternatives and similar repositories for llamacpp-distributed-inference
Users that are interested in llamacpp-distributed-inference are comparing it to the libraries listed below
Sorting:
- ai automation - 使用 n8n 與 ai agent 來自動化☆137Updated 2 weeks ago
- 以 ValueFX9507/Tifa-DeepsexV2-7b-MGRPO 系列模型為基底,專注於色情角色扮演的AI對談機器人。有API與Discord BOT兩種形式。☆73Updated 10 months ago
- ☆467Updated last year
- 最適合新手的 n8n 教學文件,會先帶你在 local 安裝 n8n,然後認識不同節點(Node)的功能,最後的實戰則是在 Google Sheet 自動建立 SEO 關鍵字矩陣☆27Updated 11 months ago
- Claude Code skill for FinLab quantitative trading - Taiwan stock market analysis and strategy development☆75Updated this week
- 本專案紀錄 2024 鐵人賽當中程式碼☆113Updated 4 months ago
- The Pocket Company - Deepseek 模型調教與推論平台☆77Updated 11 months ago
- ☆19Updated 5 months ago