PulseAugur
实时 12:37:21
English(EN) Open, convenient and predictable: Introducing Provisioned Throughput

Together AI 为开放模型推出预留推理容量

Together AI 推出了预留吞吐量(Provisioned Throughput)服务,该服务提供开放权重 AI 模型的预留推理容量。此服务提供基于 token 的定价,并有 99% 的正常运行时间服务水平协议(SLA),旨在提供专有模型的可预测性以及开源替代方案的成本效益。预留吞吐量最初支持 MiniMax M3GLM-5.2,旨在显著降低推理成本,与 Claude Opus 4.8 等模型相比,成本可能降低高达 90%。 AI

影响 为企业在生产工作负载中利用开放权重 AI 模型提供了一种更可预测且更具成本效益的方式。

排序理由 这是 AI 基础设施提供商的一项新产品,而非前沿模型发布或重大的行业性事件。

在 Together AI blog 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Together AI 为开放模型推出预留推理容量

报道来源 [1]

  1. Together AI blog TIER_1 English(EN) ·

    开放、便捷且可预测:隆重推出预留吞吐量

    Provisioned Throughput gives you reserved inference capacity for frontier open models like MiniMax M3 and GLM-5.2. Token-based pricing, a 99% uptime SLA, and up to 90% lower cost than proprietary APIs. No GPU-hour math, no infrastructure to manage.