AmirMahdi Sadeghzadeh

新的防御方法保护机器学习模型免受黑盒查询攻击

研究人员开发了一种名为梯度混淆防御（GCD）的新防御机制，以保护机器学习模型免受基于分数的黑盒查询攻击。该方法无需重新训练模型，通过改变返回给攻击者的概率向量来起作用。GCD旨在通过使暴露的logit梯度与真实的对抗性损失梯度不对齐，来增加对手构造对抗性样本的复杂性。在CIFAR-10和ImageNet等数据集上，使用ResNet和ViT等架构进行的理论分析和实验表明，GCD在不影响预测准确性的情况下，能有效增强对最先进攻击的鲁棒性。