ContraNet

新方法认证检测对抗性AI攻击

研究人员开发了一种检测深度学习分类器对抗性攻击的新方法，重点在于认证恶意输入被标记，而不是确保模型鲁棒性。该方法利用Lipschitz-边际分析将问题简化为估计单个Lipschitz常数。所提出的检测器可以应用于任何预训练分类器而无需重新训练，在MNIST、CIFAR-10和ImageNet-1k等数据集上，针对各种骨干架构，其性能与现有方法相比具有竞争力或更优。