Yin

新理论为深度神经网络的对抗Rademacher复杂度提供界限

研究人员首次为深度神经网络（DNN）中的对抗Rademacher复杂度（ARC）开发了理论界限。这一新界限解决了DNN泛化到受扰动测试数据的挑战，尽管它们能够拟合受扰动训练数据，但这一问题一直存在。该方法引入了“中间对抗样本”的概念和一个兼容的计算覆盖数的框架，与现有的Rademacher复杂度界限进行了定性比较。实验表明，权重范数是DNN中观察到的鲁棒泛化差距的一个重要因素。