Vis-Poison

新的Vis-Poison攻击通过污染图像来破坏多模态AI

研究人员开发了一种名为Vis-Poison的新型攻击方法，该方法通过污染视觉数据本身来损害多模态检索增强生成（RAG）系统。此攻击通过将恶意内容直接嵌入图像中，而不改变相关的文本（如标题或元数据），从而绕过了传统防御。Vis-Poison在黑盒环境下针对大型知识库的成功率从40.16%到65.40%不等，即使是仅能从其参数知识中回答的模型也有效。