Grace CPUs

Anyscale Ray 优化 NVIDIA GB300 NVL72 的 NVLink 域放置

Anyscale 为其 Ray 框架引入了 NVLink 域感知放置组，旨在优化 NVIDIA GB300 NVL72 系统的性能。这些新的放置组确保紧密耦合的 actor 被调度在同一个 NVLink 域内，NVLink 域是一个连接 72 个 NVIDIA Blackwell GPU 和 36 个 NVIDIA Grace CPU 的机架级互连。这种拓扑感知调度原语旨在最大化 GPU 通信并保留系统意图，它建立在先前节点级放置策略的基础上。