研究人员开发了SPARK,一种在异构数据条件下提高去中心化联邦学习(DFL)收敛速度和稳定性的新方法。SPARK利用分阶段退火的软标签正则化器结合动量来加速神经切线核(NTK)更新,而NTK在这些场景中传统上面临不稳定的挑战。所提出的方法在各种数据分布和网络设置下,与现有基线相比,收敛速度提高了3倍,通信量减少了约70%,同时保持了更高的准确性,显示出显著的改进。 AI
影响 增强了去中心化人工智能模型训练的效率和稳定性,有可能在多样化数据集上实现更强大的协作学习。
排序理由 该集群包含一篇在arXiv上发表的研究论文,详细介绍了一种新的联邦学习方法。[lever_c_demoted from research: ic=1 ai=1.0]
- SPARK
- arXiv
- DagsHub
- Decentralized federated learning
- federated learning
- Hugging Face
- IArxiv
- Li Xia
- neural tangent kernels
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →