Illusions

AI防御对抗性攻击在适应性攻击下显示出局限性

本文探讨了针对AI模型的各种对抗性攻击的防御方法，重点关注对抗性训练、梯度掩码和防御蒸馏。虽然这些方法最初在保护模型免受细微扰动方面显示出希望，但作者证明了攻击者可以调整他们的策略来克服这些防御。文章强调了攻击者和防御者之间持续的对抗性博弈，并暗示一个真正牢不可破的模型可能难以实现，从而提出了一个问题：目标应该是避免自欺欺人，而不是实现无懈可击。