本文介绍了一个新的理论框架,用于分析高维线性回归中带有尾部平均的随机梯度下降 (SGD) 的性能。作者们在超额风险上建立了匹配的上界和下界,通过考虑初始化对谱性质的影响来完善现有分析。他们证明了初始误差的影响在预热阶段呈指数衰减,并确定了满足其理论条件的特定步长范围。 AI
影响 完善了优化算法的理论理解,可能导致更有效的机器学习模型训练。
排序理由 该条目是一篇学术论文,详细介绍了机器学习算法的理论进展。[lever_c_demoted from research: ic=1 ai=1.0]
- 2021
- alphaXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- I0:k
- Influence Flower
- ScienceCast
- SGD
- von Neumann algebra
- WISE 0855–0714
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →