实体 PolarGD

PolarGD

PulseAugur coverage of PolarGD — every cluster mentioning PolarGD across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_317360 · Oct 23 · 04:00

研究论文分析 Muon 优化器的 PolarGD 更新方法

一篇新发表在 arXiv 上的研究论文分析了 Muon 优化器的核心组件“PolarGD”更新方法。该研究使用矩阵二次型进行分析，表明当梯度远离低秩且在其最大奇异方向上表现出高曲率时，PolarGD 的正交化策略具有优势。论文还指出，在特定场景下，PolarGD 的表现优于标准梯度下降和符号下降，可作为一种预条件梯度下降的变体。