ADT109119 / llamacpp-distributed-inferenceLinks
一個基於 llama.cpp 的分佈式 LLM 推理程式，讓您能夠利用區域網路內的多台電腦協同進行大型語言模型的分佈式推理，使用 Electron 的製作跨平台桌面應用程式操作 UI。
☆69Updated 2 months ago
Alternatives and similar repositories for llamacpp-distributed-inference
Users that are interested in llamacpp-distributed-inference are comparing it to the libraries listed below
Sorting:
- 以 ValueFX9507/Tifa-DeepsexV2-7b-MGRPO 系列模型為基底，專注於色情角色扮演的AI對談機器人。有API與Discord BOT兩種形式。☆70Updated 8 months ago
- ai automation - 使用 n8n 與 ai agent 來自動化☆118Updated last week
- 最適合新手的 n8n 教學文件，會先帶你在 local 安裝 n8n，然後認識不同節點（Node）的功能，最後的實戰則是在 Google Sheet 自動建立 SEO 關鍵字矩陣☆23Updated 9 months ago
- ☆93Updated 2 months ago
- ☆228Updated 2 months ago
- The Pocket Company - Deepseek 模型調教與推論平台☆77Updated 9 months ago
- ☆464Updated 10 months ago
- ☆19Updated 3 months ago
- 本專案紀錄 2024 鐵人賽當中程式碼☆111Updated last month
- BreezeAPP 是一款為 Android 和 iOS 平台開發的純手機 AI 應用程式。從 App Store下載，即可在不連網的狀態下享受多項 AI 功能。源碼由聯發創新基地(MediaTek Research)提供。我們旨在推廣兩個概念: 人人都可以在自己的手機上自…☆164Updated 2 weeks ago
- Building, Extending & Customizing Foundation Models: FoxBrain Foundation Model --> Journey to Frontier AI (「建立、擴展與自訂基礎模型：FoxBrain基礎模型 → …☆59Updated 4 months ago
- Invoice helper for Taiwan 手開統一發票小幫手☆95Updated 2 weeks ago
- 💫 規格驅動開發入門工具套件☆26Updated last month
- to provide Analysis using the creditcard bill as data source.☆27Updated 4 months ago
- Gemini API 的指南和範例集合☆103Updated 10 months ago
- ☆20Updated 5 months ago
- Twinkle Eval：高效且準確的 AI 評測工具☆79Updated 2 months ago
- Line n8n webhook node☆42Updated 8 months ago
- 餐廳評論情緒分析系統 - Restaurant Review Sentiment Analysis 由The Pocket Company by Accucrazy提供☆18Updated 5 months ago
- Reasoning chain prompt☆19Updated last year
- Context engineering 是新的 Vibe Coding —— 它是讓 AI 程式助理真正發揮作用的關鍵方式。Claude Code 是目前最適合做這件事的工具，所以這個 repo 會以它為核心，但其實你也可以把這個策略應用在任何 AI 程式助理上！☆73Updated 3 months ago
- Awesome Traditional Chinese Datasets☆42Updated 3 months ago
- OpenAI Realtime API + RAG☆16Updated last year
- AI-powered stock analysis system: Telegram bot triggers n8n workflows with FlowiseAI to generate technical analysis reports. Stores tradi…☆72Updated 6 months ago
- Replace "github" with "gitcontainer" in URLs to generate a dockerfile.☆118Updated 3 months ago
- Fine-Tune Model Data Arrangement/Annotation via Simon's tool.☆11Updated 3 months ago
- Google 的 Generative AI 開發者文件網站☆14Updated last year
- Backend service of threadseeker☆30Updated 8 months ago
- ☆31Updated 8 months ago
- 這是一本 Phi-3 的入門書。Phi-3 是由微軟開發的一系列開放 AI 模型。Phi-3 模型是目前最強大且具成本效益的小型語言模型（SLM），在各種語言、推理、程式碼和數學基準測試中，表現優於同尺寸和更大尺寸的模型。☆44Updated last year