两篇新的 arXiv 论文探讨了机器学习优化算法的进展。第一篇论文介绍了流形约束最速下降法 (MCSD) 及其切线投影变体 (MCSD-TP)，用于最小化复杂可行集上的函数，并专门针对 Stiefel 流形提出了 SPEL 方法。第二篇论文为梯度下降法的步长加速设定了下界，证明了仅靠步长调度无法实现光滑凸优化的最优收敛速率。 AI
影响 这些论文推进了对优化算法的理论理解，可能带来更高效的机器学习模型训练。
排序理由 两篇关于优化算法的独立学术论文发表在 arXiv 上。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2601.21487v2 Announce Type: replace-cross Abstract: We study minimization of smooth functions over feasible sets that have smooth embedded-manifold structure throughout or only on selected regions, using linear minimization oracles (LMOs) to determine search directions unde…
arXiv:2608.10418v1 Announce Type: cross Abstract: Recent work has shown that, for smooth convex optimization, plain gradient descent can be accelerated from its textbook convergence rate of $O(T^{-1})$ (where $T$ denotes the number of iterations) to $O\big(T^{-\log_2(1+\sqrt{2})}…