CausAdv

新框架利用因果推理检测对抗性AI样本

研究人员推出了一种新颖的框架CausAdv，旨在检测深度学习模型中的对抗性样本，特别是用于计算机视觉的卷积神经网络（CNN）。该方法利用因果推理和反事实分析，通过检查最后一个卷积层中滤波器学习到的因果和非因果特征来识别恶意输入。通过分析干净样本和对抗性样本在反事实信息（CI）上的分布，CausAdv证明对抗性样本表现出独特的CI模式，从而无需单独训练的检测器即可进行检测。