实体 Gono

Gono

PulseAugur coverage of Gono — every cluster mentioning Gono across labs, papers, and developer communities, ranked by signal.

总计 · 30天

0

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_22009 · May 7 · 17:05

GONO优化器利用方向一致性调整Adam的动量以实现更好的收敛

研究人员提出了GONO框架，这是一个旨在通过解决方向一致性和损失收敛性脱钩问题来改进深度学习训练的优化信号。与主要依赖幅度的现有优化器不同，GONO根据梯度方向的时间一致性来调整动量。这种方法旨在更好地区分平台期和真正的收敛，可能导致更高效的训练。