本文介绍了用于并行随机凸优化(SCO)的新算法,将先前的工作从标准的欧几里得($\ell_2$-范数)设置扩展到 $2 \le p < \infty$ 的 $\ell_p$ 几何。所提出的 ODC$_p$ 算法与多层蒙特卡洛方法相结合,为具有 $\ell_p$-Lipschitz 目标和复合最小化问题的优化建立了新的速率。此外,通过与一种新颖的基于 $\ell_p$-广义高斯的随机梯度估计器 $p$-GREG 集成,本文提出了两种并行算法 EpochDA 和 $\ell_p$-AC-SA,与现有的顺序方法相比,它们实现了更优的查询深度,尤其是在重尾噪声模型中。 AI
影响 引入了新颖的优化技术,可以提高大规模机器学习模型训练的效率。
排序理由 该集群包含一篇详细介绍特定优化问题新算法的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
- \ell_2$-norm
- \ell_p$
- \ell_p$-AC-SA
- \ell_p$ Geometries
- EpochDA
- Hugging Face Daily Papers
- Multilevel Monte Carlo method
- ODC$_p$
- $p$-GREG
- Stochastic Convex Optimization with Multiple Objectives
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →