PulseAugur
中
实时 07:32:34
English(EN) Vis-Poison: Poisoning Visual Knowledge in Multimodal Retrieval-Augmented Generation

新的Vis-Poison攻击通过污染图像来破坏多模态AI

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为Vis-Poison的新型攻击方法，该方法通过污染视觉数据本身来损害多模态检索增强生成（RAG）系统。此攻击通过将恶意内容直接嵌入图像中，而不改变相关的文本（如标题或元数据），从而绕过了传统防御。Vis-Poison在黑盒环境下针对大型知识库的成功率从40.16%到65.40%不等，即使是仅能从其参数知识中回答的模型也有效。 AI

影响 这项研究揭示了多模态AI系统的一个新漏洞，可能影响依赖视觉数据的AI应用程序的安全性与可靠性。

排序理由 该集群描述了一种新颖的攻击方法，该方法已在arXiv上发表的学术论文中详细介绍。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的Vis-Poison攻击通过污染图像来破坏多模态AI

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Rujin Liang, Zhongpu Chen, Yuhao Lei, Xin Miao ·

    Vis-Poison：在多模态检索增强生成中污染视觉知识

    arXiv:2608.20756v1 Announce Type: cross Abstract: While multimodal retrieval-augmented generation (RAG) systems increasingly rely on images as external knowledge sources, the introduction of poisoned visual evidence can severely compromise multimodal large language model (MLLM) g…

相关实体

相关话题