Frank-Wolfe gap

新算法在非光滑非凸随机优化中实现了最优速率

研究人员为具有非光滑和非凸目标以及凸约束的随机优化问题开发了新算法。这些算法实现了最优收敛速率，其中基于投影和无投影的方法使用随机梯度达到了 $\widetilde O(\delta^{-1}\varepsilon^{-3})$ 的速率，使用零阶查询达到了 $\widetilde O(d\delta^{-1}\varepsilon^{-3})$ 的速率。研究结果表明，在非凸随机优化中，约束和非光滑性不会降低收敛速率，该分析依赖于向在线…