Cost and Usage Report 2.0

AWS Bedrock 指导 AI 代理的成本优化，超越按 token 定价

AWS 正在为在 Amazon Bedrock 上使用的 AI 代理提供成本优化指南。该公司强调从按 token 计费转向按任务计费，并指出了四个隐藏的成本驱动因素：分词器效率、输出对齐、代理循环效率和推理开销。AWS 建议采用缓存、路由和输出约束等技术来降低每次任务的费用，并提出了一个框架，通过对照实验和记分卡来衡量代理相对于人类基线的投资回报率。