Anyscale 为其 Ray 框架引入了新的资源隔离功能,旨在提高内存和计算密集型 AI 应用的集群稳定性。该功能利用 Linux 内核控制组 (cgroup-v2) 来防止工作负载争用资源,从而避免节点和作业失败。该实现已在处理大型视频数据管道等先前不稳定的工作负载上显示出高达 1.5 倍的加速,并消除了故障。 AI
影响 提高了在 Ray 框架上运行的 AI 工作负载的稳定性和性能。
排序理由 这是对现有框架的产品更新,而不是新的前沿模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →