tokenjam

AI 代理成本飙升，因为备用路由意外使用 Claude Opus

一位开发者分享了多代理 LLM 工作流程中的一个常见陷阱，即备用机制会无意中升级到更昂贵的模型（如 Claude Opus），尽管已配置为使用更便宜的选项（如 Haiku）。这种疏忽可能导致显著的意外成本，其中一个例子显示 Opus 调用占账单的 92%。作者介绍了“tokenjam”，一个旨在提供 API 调用由哪个具体模型处理的可见性的工具，使开发者能够准确跟踪成本并设置预算提醒。