研究人员开发了Q-LocalAdam,这是一种新颖的自适应优化器,旨在减少边缘设备上联邦学习的内存使用。该方法采用块状线性和对数空间量化来处理优化器状态,在不显著影响收敛速度的情况下,大大减小了内存占用。在物理边缘设备和GPU上针对各种工作负载进行的评估表明,Q-LocalAdam能够有效地实现内存受限的边缘部署的实用自适应优化。 AI
影响 通过内存优化,使得在资源受限的边缘设备上训练更复杂的模型成为可能。
排序理由 这是一篇详细介绍联邦学习新算法的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →