研究人员开发了HO-FL,一个新颖的联邦学习框架,旨在解决边缘设备的内存限制。这种混合方法对模型的较低层使用零阶优化,对较高层使用一阶优化,使设备能够根据其可用内存调整训练。该框架的分析揭示了更新准确性和数据表示之间的权衡,可以通过采样优化来管理。实验表明,HO-FL可以在显著降低内存需求的同时,实现接近完全一阶优化的性能。 AI
影响 这项研究可能使更复杂的AI模型能够在资源受限的边缘设备上进行训练和运行。
排序理由 该集群包含一篇详细介绍联邦学习新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →