研究人员开发了 MIRROR，这是一个新颖的框架，旨在增强多模态 Agentic 检索增强生成 (RAG) 系统的红队测试能力。这种统一的方法通过采用具有新颖性约束的记忆引导蒙特卡洛树搜索，解决了文本投毒、图像注入、直接查询攻击和编排器操纵等多种攻击面。MIRROR 旨在防止提示复制，同时允许检索信息指导搜索先验，与各种攻击向量上的专用基线方法相比，在攻击成功率方面有所提高，查询成本有所降低。该项目还推出了 ART-SafeBench，这是一个包含超过 41,000 条记录的新数据集，以促进该领域的进一步研究。 AI
影响 这项研究可能为抵御生成式 AI 系统的复杂攻击提供更强大的防御措施。
排序理由 该集群包含一篇详细介绍 AI 系统红队测试新方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2606.26793v1 Announce Type: cross Abstract: Multimodal agentic retrieval-augmented generation (RAG) systems expand the attack surface beyond prompt injection to include text poisoning, image injection, direct-query attacks, and orchestrator-level tool manipulation. Existing…
Multimodal agentic retrieval-augmented generation (RAG) systems expand the attack surface beyond prompt injection to include text poisoning, image injection, direct-query attacks, and orchestrator-level tool manipulation. Existing red-teaming approaches are typically surface-spec…