一位开发人员发现,他们的 AI 代理运营成本中有很大一部分花在了从崩溃中恢复,而不是用于生产性任务。尽管有跟踪令牌消耗和 GPU 利用率的仪表板,但没有一个能显示错误率和重试率,这对于理解每个用例的真实成本至关重要。作者认为,当前的成本核算工具不足,因为它们只跟踪发生了什么,而不跟踪未能发生什么,导致在纠正错误方面存在隐藏支出。 AI
影响 突出了 AI 代理成本管理中的一个关键差距,表明需要跟踪错误率和每个结果的真实成本的工具。
排序理由 开发人员的个人经验和对 AI 代理成本核算局限性的分析。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →