一位开发者详细介绍了在多步代理工作流中反复出现的重试模式如何导致 Anthropic 的 Claude Sonnet 账单意外升高。该问题导致失败的步骤使整个管道重新启动并重新执行之前的 LLM 调用，从而使 token 使用量和成本翻倍。开发者实施了一个检查点系统来跟踪已完成的步骤及其输出，允许后续运行跳过已处理的阶段，避免重复的 LLM 调用。此解决方案通过防止重复的 token 消耗和数据写入，显著降低了月度开支。 AI
影响 强调了在 LLM 代理工作流中进行健全的错误处理和状态管理以控制成本的必要性。
排序理由 开发者优化 LLM 成本和工作流的个人经验分享。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
<p>Last month's Anthropic invoice was $312. After one architectural change, May came in at $156 — exactly half. The culprit wasn't prompt bloat or model choice. It was the absence of compensating actions in my multi-step agent workflow.</p> <p>The pattern is embarrassingly common…
<p>Last month's Anthropic invoice: $312. Sixty percent of it traced back to a single retry pattern I couldn't see anywhere in my normal logs.</p> <p>The agent was failing on tool calls, then re-entering the loop with the full context intact — 18K input tokens per invocation on a …