English(EN) NEST: Network- and Memory-Aware Device Placement For Distributed Deep Learning

NEST框架优化分布式深度学习部署

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-26 04:00

研究人员开发了NEST，一个用于优化分布式深度学习设备部署的新框架。NEST通过联合考虑网络拓扑、内存限制和并行策略，解决了先前方法的局限性。通过结构化动态规划，它分析算子图和通信延迟，以找到高效的混合并行化方法。评估表明，与现有技术相比，NEST可以显著提高吞吐量和内存效率。 AI

影响优化分布式训练效率，可能加速大规模AI模型开发。

排序理由详细介绍分布式深度学习新框架的学术论文。[lever_c_research降级：ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Irene Wang, Vishnu Varma Venkata, Arvind Krishnamurthy, Divya Mahajan · 2026-05-26 04:00

NEST: 面向分布式深度学习的网络和内存感知设备放置

arXiv:2603.06798v2 Announce Type: replace Abstract: The growing scale of deep learning demands distributed training frameworks that jointly reason about parallelism, memory, and network topology. Prior works often rely on heuristic or topology-agnostic search, handling communicat…