AWS 推出了新工具,帮助组织管理和监控其在 Amazon Bedrock(一项生成式 AI 服务)上的支出。第一种方法利用 AWS 原生功能,如 AWS Budgets 和 Cost Explorer,按 IAM 主体跟踪支出,允许在达到阈值时通过限制访问来自动执行支出限制。第二种更详细的方法涉及为 Amazon Bedrock 调用日志设置一个集中的数据湖,该数据湖捕获提示、响应、代币使用情况和模型详细信息等精细数据,从而实现每次调用的成本分析和更好的调试。 AI
影响 能够更好地管理 AWS 上的生成式 AI 工作负载的成本和可观察性,可能加速企业采用。
排序理由 文章描述了用于管理云服务使用和成本的新功能和工具,而不是新的模型发布或核心研究。
在 Mastodon — mastodon.social 阅读 →
- Amazon Athena
- Amazon Bedrock
- Amazon CloudWatch
- Amazon Data Firehose
- Amazon S3
- AWS
- AWS CloudFormation
- AWS Lambda
- GitHub
- AWS Budgets
- AWS Cost and Usage Reports (CUR) 2.0
- AWS IAM Identity Center
- IAM
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →