tool output budget

AI 代理工具需要输出和重试预算清单

两篇文章详细介绍了开发生产级 AI 代理工具的关键清单，重点关注输出预算管理和重试/速率限制处理。第一篇文章强调了限制工具输出来防止上下文泛滥并确保模型高效处理，方法是定义最大响应大小、结构化数据返回和工件交接。第二篇文章强调了强大的重试机制的重要性，包括设置重试预算、识别配额所有者、确保幂等性以便安全重放以及提供清晰的耗尽拒绝，以防止过高的提供商成本和用户端影响。