English(EN) FedQueue: Queue-Aware Federated Learning for Cross-Facility HPC Training

FedQueue协议为HPC设施优化联邦学习

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-05 04:00

研究人员开发了FedQueue，一种旨在优化跨多个高性能计算（HPC）设施的联邦学习的新型协议。该系统解决了批调度器队列造成的显著延迟，这些延迟可能占据训练时间的大部分。FedQueue结合了队列延迟预测和基于截止的准入机制来管理本地工作并缓冲迟到的更新，从而限制了更新的陈旧性。该协议还采用感知陈旧性的聚合来稳定异构工作负载，从而提高收敛速度并缩短训练时间。 AI

影响在分布式HPC环境中优化联邦学习效率，可能缩短大规模AI模型的训练时间。

排序理由这是一篇详细介绍联邦学习新协议的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Yijiang Li, Emon Dey, Zilinghan Li, Krishnan Raghavan, Ravi Madduri, Kibaek Kim · 2026-05-05 04:00

FedQueue: Queue-Aware Federated Learning for Cross-Facility HPC Training

arXiv:2605.02125v1 Announce Type: cross Abstract: Federated learning (FL) across multiple HPC facilities faces stochastic admission delays from batch schedulers that dominate wall-clock time. Synchronous FL suffers from severe stragglers, while asynchronous FL accumulates stale u…

报道来源 [1]

FedQueue: Queue-Aware Federated Learning for Cross-Facility HPC Training

相关实体

相关话题