PulseAugur
实时 23:53:39
English(EN) How Torc hit 90% GPU utilization and other stories on scaling AI with Ray from Discord, Cubist, and Coinbase

Ray 框架助力 Torc、Discord 等公司实现 AI 扩展

Anyscale 在纽约的 Ray Day 活动展示了 Torc RoboticsDiscordCubistCoinbase 等公司如何利用 Ray 框架来扩展其 AI 工作负载。例如,Torc Robotics 通过使用 Ray 统一其多模态 AI 处理堆栈,将 GPU 利用率从 30-40% 显著提高到约 90%,从而使模型训练的 epoch 速度提高了 4 倍。Discord 从开源 Ray 部署迁移到 Anyscale 的托管平台,以应对日益增长的采用并降低运营开销,从而能够更快地开发和部署大规模模型。 AI

影响 展示了生产环境中 AI 基础设施框架的实际应用和扩展挑战。

排序理由 活动回顾,讨论了多家公司对某个框架的使用,而非新发布或行业重大转变。

在 Anyscale blog 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Ray 框架助力 Torc、Discord 等公司实现 AI 扩展

报道来源 [1]

  1. Anyscale blog TIER_1 English(EN) ·

    How Torc hit 90% GPU utilization and other stories on scaling AI with Ray from Discord, Cubist, and Coinbase

    Ray Day: NYC brought together engineers from Torc, Discord, Cubist, and Coinbase to share how they scaled production AI with Ray and Anyscale.