PulseAugur
实时 08:37:50

联邦学习研究通过频域分析解决客户端漂移问题 · 已追踪 2 个来源

两篇新研究论文 FedFFTSpecGradFilter 提出新颖方法,通过分析频域中的梯度扰动来解决联邦学习中的客户端漂移问题。两篇论文都指出,客户端更新中的不一致性,尤其是在使用 Sharpness-Aware Minimization (SAM) 时,集中在低频分量。通过过滤这些低频信号,它们各自的框架旨在提高模型泛化能力和收敛性,尤其是在非独立同分布(non-IID)数据分布下,而不会显著增加通信开销。 AI

影响 这些方法可以提高在去中心化数据集上训练 AI 模型的鲁棒性和效率,尤其是在数据分布多样或不均匀的情况下。

排序理由 两篇在 arXiv 上发表的学术论文,提出了联邦学习的新方法。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

联邦学习研究通过频域分析解决客户端漂移问题 · 已追踪 2 个来源

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Liyang Yuan, Yibo Yang, Dandan Guo ·

    FedFFT: Taming Client Drift in Federated SAM via Spectral Perturbation Filtering

    arXiv:2607.04170v1 Announce Type: new Abstract: Federated Learning (FL) enables decentralized training without data sharing, but suffers from statistical heterogeneity across clients, leading to client drift, poor generalization, and sharp minima compared to centralized training.…

  2. arXiv cs.LG TIER_1 English(EN) · Liyang Yuan, Yibo Yang, Dandan Guo, Peter Richtarik, Zhouchen Lin ·

    SpecGradFilter: A Spectral Gradient Filtering Framework for Taming Federated Heterogeneity

    arXiv:2607.04189v1 Announce Type: new Abstract: Federated Learning (FL) is fundamentally challenged by statistical heterogeneity, where non-identically distributed (non-IID) data induces client drift that severely hampers global convergence. While existing approaches attempt to m…