Anyscale 在纽约的 Ray Day 活动展示了 Torc Robotics、Discord、Cubist 和 Coinbase 等公司如何利用 Ray 框架来扩展其 AI 工作负载。例如,Torc Robotics 通过使用 Ray 统一其多模态 AI 处理堆栈,将 GPU 利用率从 30-40% 显著提高到约 90%,从而使模型训练的 epoch 速度提高了 4 倍。Discord 从开源 Ray 部署迁移到 Anyscale 的托管平台,以应对日益增长的采用并降低运营开销,从而能够更快地开发和部署大规模模型。 AI
影响 展示了生产环境中 AI 基础设施框架的实际应用和扩展挑战。
排序理由 活动回顾,讨论了多家公司对某个框架的使用,而非新发布或行业重大转变。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →