研究人员开发了TallyTrain，一种新颖的联邦学习协议，旨在显著降低通信开销。该方法仅传输每个探针的预测类别索引，而非完整的软标签，这对于大量的类别计数尤其有效。通过过滤掉欠训练同伴的噪声，TallyTrain在非独立同分布（non-IID）场景下可以优于传统的软标签蒸馏。此外，一种带宽桥接变体将TallyTrain与稀疏参数合并相结合，在各种操作点上均优于FedAvg和FedProx等标准基线。 AI
影响 降低了联邦学习中的通信开销，可能在分布式训练场景中支持更大的模型和类别计数。
排序理由 详细介绍联邦学习新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
