PulseAugur
实时 20:05:14
English(EN) Salesforce, Zoom, InVideo Train Faster with Together AI Turbocharged with NVIDIA Blackwell

Together AI 借助 NVIDIA Blackwell 将 AI 训练速度提升 90%

Together AI 推出了采用 NVIDIA Blackwell 平台的新 GPU 集群,显著加快了 AI 训练和推理速度。这些集群由 Together Kernel Collection 提供支持,与之前的 NVIDIA H100 硬件相比,训练速度最高可提高 90%,处理大型模型的速度超过每秒 15,000 个 token。SalesforceZoom 等早期客户已报告了显著的性能提升,其中一些客户的训练速度翻倍。Together AI 的优化工作涵盖自定义内核、推理引擎和投机解码,旨在重新定义 AI 模型开发和部署的效率。 AI

影响 加速 AI 训练和推理,可能降低企业模型开发和部署的成本并提高其速度。

排序理由 该集群详细介绍了主要云服务提供商通过利用领先芯片制造商的新硬件,对 AI 工作负载进行的重大基础设施升级和性能改进。

在 Together AI blog 阅读 →

AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →

Together AI 借助 NVIDIA Blackwell 将 AI 训练速度提升 90%

报道来源 [3]

  1. Together AI blog TIER_1 English(EN) ·

    Together AI Achieves 90% Faster BF16 Training with NVIDIA Blackwell Platform and Together Kernel Collection

  2. Together AI blog TIER_1 Nederlands(NL) ·

    Together AI Delivers Top Speeds for DeepSeek-R1-0528 Inference on NVIDIA Blackwell

    Together AI inference is now among the world’s fastest, most capable platforms for running open-source reasoning models like DeepSeek-R1 at scale, thanks to our new inference engine designed for NVIDIA HGX B200.

  3. Together AI blog TIER_1 English(EN) ·

    Salesforce, Zoom, InVideo Train Faster with Together AI Turbocharged with NVIDIA Blackwell