Rademacher smoothing

新优化方法在高维问题上展现潜力

研究人员开发了一种新的Bregman线性增广拉格朗日方法，用于解决非凸约束随机零阶优化问题。该方法利用随机零阶梯度估计器和方差缩减技术来分析预言机复杂度。所提出的方法在高维设置下表现出改进的性能，实现了低于O(d)的维度依赖性，并与文献中关于容差\(\\epsilon\\)的最低复杂度阶数相匹配。在约束Lasso和对抗性攻击问题上的数值实验表明了有希望的结果。