实体 momentum variants

momentum variants

PulseAugur coverage of momentum variants — every cluster mentioning momentum variants across labs, papers, and developer communities, ranked by signal.

Show in brief

总计 · 30天

90 天内 1

发布 · 30天

90 天内 0

论文 · 30天

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_252050 · Sep 14 · 04:00

四篇arXiv论文推进随机优化理论 · 跟踪4个来源

四篇新研究论文发表在arXiv上，探讨了随机优化方法的高级收敛性质。第一篇论文为具有收缩性、马尔可夫性和乘性噪声的随机逼近的稳态收敛性引入了统一理论，在Wasserstein-2距离上实现了最优的$O(\sqrt{\alpha})$速率。另一篇论文证明了带裁剪和加性高斯噪声的随机梯度下降的几乎处处收敛性，并将其扩展到动量变体。第三项研究分析了重尾噪声和Hölder平滑下SGD的收敛速率，为具有挑战性条件下的梯度裁剪方法提供了新的保证。…

四篇arXiv论文推进随机优化理论 · 跟踪4个来源