一位开发者发现，LLM看似更便宜的API层级，由于失败率更高，实际上每次成功任务的成本却更高。每次成功任务的成本计算方法是将每次尝试的成本除以成功率。这意味着，每次调用价格较低但失败率较高的API，在考虑必要的重试时，最终成本可能会显著增加。 AI
影响 强调了在LLM代理开发中，考虑API成功率而非仅仅是每次调用的价格对于成本效益的重要性。
排序理由 开发者的个人经验和对API定价模型的分析。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
LLM API定价陷阱：每次调用更便宜，每次成功更昂贵
报道来源 [1]
-
The Cheaper API Was 2.5x Cheaper. It Cost 1.6x More.
<blockquote> <p><strong>AI-disclosure:</strong> AI-assisted draft, human-reviewed. The demo numbers are the verbatim stdout of a deterministic, stdlib-only Python script included in full below — re-run it and you get the same bytes. The attempt counts in that script are a SYNTHET…