GDA

新的GDA方法使用负步长以实现更快收敛

研究人员开发了一种新颖的梯度下降-上升（GDA）算法方法，证明了通过采用非常规、时变、不对称和周期性负步长调度，GDA可以在最小-最大问题上收敛。这些“弹弓”步长，涉及在某些迭代中进行向后进展，对于克服历史上困扰GDA的循环问题至关重要。该方法不仅能够在经典的对抗性示例上实现收敛，而且通过利用梯度流的不可逆性，近似了用于训练GAN等深度神经网络的共识优化技术，从而提供了快速的整体收敛。