PulseAugur
实时 14:11:58

Together AI 将推理能力扩展到每月 300T 个 token,同比增长 10,000 倍

Together AI 宣布其推理能力显著提升,每月处理 300 万亿个 token。这比其之前每月 300 亿个 token 的容量增长了十倍。此次扩张凸显了该公司对推理和开源模型的关注。 AI

影响 推理能力的这一巨大提升可能会降低 AI 模型部署的成本并提高其可访问性。

排序理由 主要 AI 推理提供商进行了重大的基础设施扩展。

在 X — Together (inference / OSS) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Together AI 将推理能力扩展到每月 300T 个 token,同比增长 10,000 倍

报道来源 [1]

  1. X — Together (inference / OSS) TIER_1 English(EN) · togethercompute ·

    RT @vipulved: 30B -> 300T tokens per month YoY @togethercompute

    RT @vipulved: 30B -> 300T tokens per month YoY @togethercompute