JohnMing143 / llm-api-speedtester
这是一个部署在 Cloudflare Worker 上的小工具，用于测试大语言模型 (LLM) API 的调用速度和性能。它可以测量不同输入和输出 Token 组合下的吞吐量 (tokens/sec) 和首个 Token 的平均响应延迟。
☆22Updated last week
Alternatives and similar repositories for llm-api-speedtester
Users that are interested in llm-api-speedtester are comparing it to the libraries listed below
Sorting:
- 借助cloudflare tunnel实现在容器平台的frp内网穿透☆39Updated last month
- ☆46Updated last month
- ✨ 基于 CloudFlare AI & Workers 的免费在线文生图服务☆86Updated 2 weeks ago
- 一个轻量级的域名重定向服务，支持多目标轮询转发。该服务可以根据配置的域名映射规则，将请求转发到不同的目标地址，并支持轮询负载均衡。☆36Updated last month
- OpenAI compatible /chat/completions endpoint for fal.ai☆34Updated last month
- ImageHosting Github login + Cloudflare R2 + D1 + Astro SSR | 图床&图片上传☆48Updated 2 months ago
- 🌐 A simple Cloudflare Worker - Serverless & Cost-Effective: No need to rent or manage your own server. Cloudflare Workers operate on a s…☆135Updated this week
- A list of projects that enables you to use GPT-3.5 for free☆41Updated last year
- Pure Front-End LLM API Testing Tool☆71Updated last month
- 基于 Google Gemini AI 的全功能图像处理应用☆128Updated this week
- This plugin allows you to open your Obsidian vault or current file in your favorite IDE or text editor. Support VSCode, Cursor, Windsurf,…☆23Updated 3 months ago
- 基于MCP(Model Context Protocol)的智能聊天应用，支持Web和桌面环境。集成OpenAI/Anthropic API，提供MCP服务器的所有工具能力。简洁现代的UI设计，支持跨平台部署。☆67Updated last month
- This is a simple Cloudflare Worker that transform Cohere API to OpenAI API, easily deployable to Cloudflare Workers.☆42Updated 2 months ago
- ☆32Updated this week
- ☆59Updated 3 months ago
- Use Github LLM in Telegram☆43Updated 6 months ago
- PDF2MD是一个高效的PDF到Markdown转换工具，旨在帮助用户轻松将PDF文档转换为Markdown格式，便于编辑、分享和发布。通过简洁易用的界面和强大的转换功能，PDF2MD成为内容创作者、研究人员和开发者的得力助手。☆105Updated last week
- MermaidHelp + FineUI11，输入需求，调用gtp接口生成 Mermaid格式流程图并显示☆32Updated last week
- 一个自动抓取抖音热门音乐榜单的工具，支持高潮片段提取和可视化展示，参考SnailDev/douyin-hot-hub☆70Updated this week
- 一个优雅的书签收藏与分享平台，基于Cloudflare Workers构建☆64Updated 2 weeks ago
- A duolingo opensource alternative. RIP Duo🕯️☆63Updated 3 months ago
- webhook聚合推送☆36Updated 3 months ago
- whois代理服务器搭建。☆27Updated last month
- FlowSilicon 是一个专为硅基流动 API 设计的代理服务，提供全面的 API 密钥管理、智能负载均衡、请求转发和实时监控功能。☆79Updated last month
- 尚硅谷Vue3入门到实战，最新版Vue3+TypeScript前端开发教程☆71Updated 2 weeks ago
- 提供一个集中化的命令行工具速查表仓库，通过简单的命令，快速查询和查看各种常用命令速查表。☆70Updated 2 weeks ago
- (非官方）Juchats API☆32Updated last month
- 一个跑在 Cloudflare Workers 上的图片生成 API 代理，帮你智能优化提示词、代理图片，安全又好用！🚀☆76Updated last week
- ☆94Updated last month
- Ortlin - OpenAI User Interface☆57Updated 7 months ago