PulseAugur
中
实时 20:23:43
English(EN) When Momentum Helps Polyak--Ruppert Averaging

研究论文分析了动量在 Polak-Ruppert 平均中的作用

作者 PulseAugur 编辑部 · [1 个来源] ·

这篇研究论文探讨了动量在随机梯度下降（SGD）及其相关优化方法中的 Polak-Ruppert 平均的有效性。作者分析了有限运行收敛到渐近协方差的速度以及并行化的潜力。对于有噪声的强凸二次函数，他们建立了经验风险最小化与在线过程之间的桥梁，详细说明了与中心、协方差和形状相关的误差。该论文还研究了重尾噪声或状态相关噪声以及裁剪对这些方法的影响。 AI

影响 为机器学习中使用的优化算法提供了理论见解。

排序理由 该集群包含一篇发表在 arXiv 上的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究论文分析了动量在 Polak-Ruppert 平均中的作用

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该集群包含一篇发表在 arXiv 上的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
paper, other
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
4 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Alexandra Suvroikova, Darina Dvinskikh, Yuriy Dorn, Alexander Gasnikov ·

    当动量助力 Polyak--Ruppert 平均法时

    arXiv:2610.27990v1 Announce Type: new Abstract: Polyak--Ruppert averaging gives SGD and momentum methods the same asymptotic covariance. We characterize how fast finite runs reach it and how far they can be parallelized. For strongly convex quadratics with additive noise, we prov…

相关实体

相关话题