PulseAugur
实时 00:27:06
实体 Decentralized SGD with Adaptive Consensus

Decentralized SGD with Adaptive Consensus

PulseAugur coverage of Decentralized SGD with Adaptive Consensus — every cluster mentioning Decentralized SGD with Adaptive Consensus across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_108098 ·

    新的去中心化AI训练方法找到更平坦的最小值,优于中心化SGD

    研究人员开发了一种名为DSGD-AC的新型去中心化训练方法,该方法挑战了去中心化学习在本质上不如中心化方法这一观点。该方法使用自适应共识机制来管理共识误差,共识误差通常被认为对收敛和泛化有害。通过平衡图阻尼和曲率相关阻尼,DSGD-AC可以产生更强的损失包络惩罚,从而获得比标准去中心化甚至中心化SGD方法更平坦的解和更高的测试准确性。研究结果表明,共识误差可以在去中心化学习算法中作为一种有益的隐式正则化器。