一位开发者创建了LLM延迟跟踪器（LLM Latency Tracker），该工具旨在提供独立的、特定地区的AI API延迟和正常运行时间测量。该跟踪器测量来自四个全球区域（欧洲、美国中部、亚洲和南美洲）的边缘延迟（从探测到第一个字节）和推理首次令牌时间（TTFT）。它旨在提供一个中立于提供商的视图，涵盖约45家AI提供商，包括主要的西方实验室和中文模型，数据可通过JSON API和OpenAPI规范访问。 AI
影响 为根据性能和可靠性选择AI API的开发者提供了关键的、独立的数据。
排序理由 该项目描述了一个由开发者创建的用于测量AI API延迟的工具，而不是来自前沿AI实验室的发布或重大的行业事件。
- Anthropic
- Cerebras
- Cloudflare Pages
- DeepSeek
- Fireworks
- General Language Model
- Groq
- LLM Latency Tracker
- Minimax
- Mistral AI
- Moonshot
- OpenAI
- OpenRouter
- Perplexity
- Qwen
- SpaceXAI
- Together
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
