PulseAugur
实时 03:45:53
English(EN) The next generation of inference needs purpose-built infrastructure.

Together AI 部署 NVIDIA GB300 NVL72 以支持下一代 AI 推理基础设施

Together AI 正在部署专为大规模 AI 推理和思考设计的新一代基础设施。这个新的 AI Factory 使用 NVIDIA GB300 NVL72 系统,该系统具有高密度计算和先进的冷却解决方案。此次部署是与 5CPegatronVertivVAST Data 等合作伙伴合作进行的,重点是 AI 优化存储,为未来的 AI 功能提供支持。 AI

影响 加速了高性能计算在 AI 推理方面的可用性,可能降低成本并提高可及性。

排序理由 非前沿 AI 实验室部署专门用于 AI 推理的硬件基础设施。

在 X — Together (inference / OSS) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Together AI 部署 NVIDIA GB300 NVL72 以支持下一代 AI 推理基础设施

报道来源 [1]

  1. X — Together (inference / OSS) TIER_1 English(EN) · togethercompute ·

    下一代推理需要专门构建的基础设施。

    The next generation of inference needs purpose-built infrastructure. Together AI and 5C are deploying NVIDIA GB300 NVL72 systems with high-density compute, advanced cooling, and AI-optimized storage for large-scale inference and reasoning.