Together AI 推出了预留吞吐量(Provisioned Throughput)服务,该服务提供开放权重 AI 模型的预留推理容量。此服务提供基于 token 的定价,并有 99% 的正常运行时间服务水平协议(SLA),旨在提供专有模型的可预测性以及开源替代方案的成本效益。预留吞吐量最初支持 MiniMax M3 和 GLM-5.2,旨在显著降低推理成本,与 Claude Opus 4.8 等模型相比,成本可能降低高达 90%。 AI
影响 为企业在生产工作负载中利用开放权重 AI 模型提供了一种更可预测且更具成本效益的方式。
排序理由 这是 AI 基础设施提供商的一项新产品,而非前沿模型发布或重大的行业性事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →