Amazon Bedrock 提供预置吞吐量选项，用于专用的模型容量，按小时计费而非按 token 计费。这种固定容量模型对于自定义模型是必需的，但不支持批量推理或推理配置文件。为了确定预置吞吐量是否具有成本效益，用户必须从其 AWS 客户经理处获取特定的、未公开的详细信息，包括每个模型单元的每小时价格以及模型单元每分钟可以处理的输入/输出 token 数。 AI
影响 提供有关通过 AWS Bedrock 的专用容量使用大型语言模型时优化成本的指导。
排序理由 文章详细介绍了云服务提供商的一项特定功能，解释了如何使用和计算其成本，而不是宣布新产品或重大的行业发展。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
