Giulia Marchiori Pietrosanti

新的对抗性诱饵技术可绕过Vision Transformer防御机制

研究人员开发了一种名为对抗性诱饵的新方法，用于绕过Vision Transformers (ViTs) 中基于注意力的防御机制。这些诱饵是独立优化的图像块，可以将注意力机制（以及随之而来的防御机制）从实际的对抗性区域转移开。该技术将误分类目标与防御规避解耦，使其具有攻击无关性，并易于与现有的对抗性补丁攻击集成。在ImageNet上的实验表明，诱饵可以在保持显著攻击有效性的同时有效地误导注意力分数，突显了使用注意力幅度检测对抗性相关性的局限性。