Mao Yancan

Anyscale 提升 Ray 在大规模 AI 训练集群中的性能

Anyscale 已显著增强其 Ray 框架，以更好地支持大规模 AI 工作负载。最近的改进解决了驱动程序性能和 Actor 调度中的瓶颈，从而显著加快了批处理推理和数据混洗任务的速度。这些优化使 Ray 能够处理更大的训练集群，扩展到 10,000 个节点并支持多达 40,000 个 Actor，与之前的能力相比有了显著提升。