UnivIntruder

新的攻击框架使用单一CLIP模型欺骗AI模型

研究人员开发了一个名为UnivIntruder的新型对抗性攻击框架，该框架可以使用单一、公开可用的CLIP模型来欺骗深度神经网络。该方法基于文本概念生成通用、可迁移且有针对性的对抗性扰动，在ImageNet和CIFAR-10等数据集上取得了很高的成功率。值得注意的是，UnivIntruder通过破坏Google和Baidu等图像搜索引擎，以及GPT-4和Claude 3.5等视觉语言模型，即使在没有直接模型查询的情况下也展示了现实世界的漏洞。