最近的一项基准测试显示,NVIDIA 开发的 Nemotron 3 Super 120B 模型,通过 OpenRouter 的免费套餐提供的速度比通过 NVIDIA 自家 API 提供的速度更快。测试表明,与 NVIDIA 的第一方终端相比,OpenRouter 在首次令牌响应速度和每秒令牌数方面表现更优。这表明,拥有可用容量的第三方提供商有时可以超越直接供应商的性能,尤其是在免费套餐上,并突显了 API 性能随时间的波动性。 AI
影响 突显了第三方 API 提供商在特定模型上可能比直接供应商具有性能优势。
排序理由 特定模型的 API 性能基准测试。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →