ADT109119 / llamacpp-distributed-inferenceLinks
一個基於 llama.cpp 的分佈式 LLM 推理程式，讓您能夠利用區域網路內的多台電腦協同進行大型語言模型的分佈式推理，使用 Electron 的製作跨平台桌面應用程式操作 UI。
☆44Updated 2 weeks ago
Alternatives and similar repositories for llamacpp-distributed-inference
Users that are interested in llamacpp-distributed-inference are comparing it to the libraries listed below
Sorting:
- all of the workflows of n8n i could find (also from the site itself)☆90Updated 2 months ago
- ☆214Updated 2 weeks ago
- Gemini API 的指南和範例集合☆101Updated 7 months ago
- Invoice helper for Taiwan 手開統一發票小幫手☆92Updated 3 weeks ago
- 以 ValueFX9507/Tifa-DeepsexV2-7b-MGRPO 系列模型為基底，專注於色情角色扮演的AI對談機器人。有API與Discord BOT兩種形式。☆54Updated 5 months ago
- Backend service of threadseeker☆30Updated 5 months ago
- 本專案紀錄 2024 鐵人賽當中程式碼☆95Updated 8 months ago
- BreezeAPP 是一款為 Android 和 iOS 平台開發的純手機 AI 應用程式。從 App Store下載，即可在不連網的狀態下享受多項 AI 功能。源碼由聯發創新基地(MediaTek Research)提供。我們旨在推廣兩個概念: 人人都可以在自己的手機上自…☆125Updated this week
- Building, Extending & Customizing Foundation Models: FoxBrain Foundation Model --> Journey to Frontier AI (「建立、擴展與 自訂基礎模型：FoxBrain基礎模型 → …☆56Updated 2 months ago
- The Pocket Company - Deepseek 模型調教與推論平台☆77Updated 6 months ago
- A 9-Lesson course teaching everything you need to know about harnessing GitHub Copilot as an AI Paired Programming resource.☆67Updated 5 months ago
- LINE Bot Gemini Pro Vision 名片機器人，透過 Notion 當你的 Database (Golang)☆39Updated last year
- A one stop repository for generative AI research updates, interview resources, notebooks and much more!☆71Updated last year
- ai automation - 使用 n8n 與 ai agent 來自動化☆86Updated this week
- Twinkle Eval：高效且準確的 AI 評測工具☆69Updated this week
- ☆20Updated 2 months ago
- Google 的 Generative AI 開發者文件網站☆14Updated last year
- 台灣/香港/澳門 GitHub 知名開發者排名【每個月底更新一次】☆63Updated last week
- ☆460Updated 7 months ago
- Easily automate the translation of your documentation into multiple languages, powered by Azure AI Services☆487Updated this week
- ☆18Updated last week
- Fine-Tune Model Data Arrangement/Annotation via Simon's tool.☆10Updated last month
- Context engineering 是新的 Vibe Coding —— 它是讓 AI 程式助理真正發揮作用的關鍵方式。Claude Code 是目前最適合做這件事的工具，所以這個 repo 會以它為核心，但其實你也可以把這個策略應用在任何 AI 程式助理上！☆69Updated 3 weeks ago
- DeepSRT public roadmap☆29Updated 2 weeks ago
- 這是一本 Phi-3 的入門書。Phi-3 是由微軟開發的一系列開放 AI 模型。Phi-3 模型是目前最強大且具成本效益的小型語言模型（SLM），在各種語言、推理、程式碼和數學基準測試中，表現優於同尺寸和更大尺寸的模型。☆44Updated last year
- ☆226Updated last month
- Download Taiwan financial market data via FMD API.☆29Updated 5 months ago
- Duotify.OpenAI.CLI 應用程式是一個跨平台的 CLI 命令列工具，用於與 OpenAI 相容的 API 互動。☆25Updated 3 months ago
- 饅頭聊天機器人，主要是一個在 LINE 上的一個聊天機器人；此專案需部屬至 Vercel 伺服器。☆60Updated 5 months ago
- 使用繁體中文資料集做的 Embedding 模型評測☆58Updated last year