Notion、Salesforce、Uber 使用 Anyscale 的 Ray 框架扩展 AI

Anyscale 主办了 Ray Day Seattle，展示了 Notion 和 Salesforce 等公司如何使用 Ray 框架扩展 AI 工作负载。Notion 通过将 AI 管道迁移到 Ray，将多个步骤整合到一个引擎中，从而将嵌入成本显著降低了 80%，并提高了查询延迟。Salesforce 利用 Ray 构建了一个用于总结长篇文档的分布式系统，使用 20B 参数模型实现了低延迟。Uber 还展示了使用 Ray 改进其 ML 平台的 GPU 利用率和训练时间。 AI

影响 展示了 AI 工作负载的实际扩展解决方案，为主要科技公司降低了成本并提高了性能。

排序理由 这是关于扩展 AI 的用户故事的活动回顾，而不是新的产品或模型发布。

在 Anyscale blog 阅读 →

• Anyscale
• Spark
• Chi Wang
• Jiwei Cao
• Michelangelo
• Mickey Liu
• Notion
• Peng Zhang
• Ray
• Robert Nishihara
• Salesforce
• Uber
• vLLM

• 基础设施
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →