一篇新发表在 arXiv 上的论文详述了一种名为几何矩收缩 (GMC) 的方法,用于改进随机 Nesterov 加速。该研究引入了一个直接的标准,用于在均值强单调性和随机 L^p Lipschitz 连续性下的同步 L^p 收缩,该标准可适应无限方差梯度。此外,一个幂-Lyapunov 参数论证仅使用有限的 p 次梯度矩就建立了一个更宽的步长区间。 AI
影响 这项研究可能通过改进优化算法,从而提高机器学习模型的训练效率。
排序理由 该集群包含一篇发表在 arXiv 上的研究论文,详述了一种新的随机优化方法。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Geometric Moment Contraction
- Gotit.pub
- Hugging Face
- Perron
- ScienceCast
- stat.ML
- Stochastic Nesterov Acceleration
- Yuriy Nesterov
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →