PulseAugur
中
实时 07:21:10

新的MoE调度框架消除了incast瓶颈

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种新的混合专家（MoE）架构调度框架，旨在解决由传统轮询调度引起的瓶颈。这个名为“Incast-Free MoE Rate-Based Scheduling”的新框架旨在防止网络过度订阅，并通过模拟证明可以消除incast现象。该解决方案持续实现近100%的链路利用率并缩短了集合完成时间（CCT），有潜力在网络接口卡（NIC）中实现。 AI

影响 这项研究通过解决关键基础设施瓶颈，有望提高大型语言模型的效率和可扩展性。

排序理由 关于MoE调度新技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的MoE调度框架消除了incast瓶颈

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Evyatar Cohen, Jose Yallouz, Alexander Shpiner, Mark Silberstein, Sylvia Ratnasamy, Isaac Keslassy ·

    Incast-Free MoE Rate-Based Scheduling

    arXiv:2607.26340v1 Announce Type: cross Abstract: Mixture of Experts (MoE) architectures have become key to large language models; however, their typical round-robin (RR) scheduling introduces significant bottlenecks. In this paper, we demonstrate that RR causes a previously-undi…

相关实体

相关话题