ADT109119 / llamacpp-distributed-inferenceLinks
一個基於 llama.cpp 的分佈式 LLM 推理程式,讓您能夠利用區域網路內的多台電腦協同進行大型語言模型的分佈式推理,使用 Electron 的製作跨平台桌面應用程式操作 UI。
☆59Updated last week
Alternatives and similar repositories for llamacpp-distributed-inference
Users that are interested in llamacpp-distributed-inference are comparing it to the libraries listed below
Sorting:
- 以 ValueFX9507/Tifa-DeepsexV2-7b-MGRPO 系列模型為基底,專注於色情角色扮演的AI對談機器人。有API與Discord BOT兩種形式。☆60Updated 5 months ago
- ☆58Updated this week
- 本專案紀錄 2024 鐵人賽當中程式碼☆98Updated 9 months ago
- ☆460Updated 8 months ago
- 最適合新手的 n8n 教學文件,會先帶你在 local 安裝 n8n,然後認識不同節點(Node)的功能,最後的實戰則是在 Google Sheet 自動建立 SEO 關鍵字矩陣☆24Updated 7 months ago
- The Pocket Company - Deepseek 模型調教與推論平台☆77Updated 6 months ago
- Twinkle Eval:高效且準確的 AI 評測工具☆76Updated 3 weeks ago
- ☆224Updated last week
- ai automation - 使用 n8n 與 ai agent 來自動化☆96Updated this week
- Invoice helper for Taiwan 手開統一發票小幫手☆94Updated last month
- Reasoning chain prompt☆19Updated 11 months ago
- BreezeAPP 是一款為 Android 和 iOS 平台開發的純手機 AI 應用程式。從 App Store下載,即可在不連網的狀態下享受多項 AI 功能。源碼由聯發創新基地(MediaTek Research)提供。我們旨在推廣兩個概念: 人人都可以在自己的手機上自…☆131Updated 2 weeks ago
- Line n8n webhook node☆41Updated 6 months ago
- Gemini API 的指南和範例集合