新型TopoGuard防御机制应对RAG系统中的分裂知识攻击

一种名为TopoGuard的新型防御机制已被开发出来，用于对抗针对检索增强生成（RAG）系统的分裂知识攻击。这些攻击涉及注入看似无害的文档，这些文档组合在一起会产生错误的关联并误导语言模型。TopoGuard利用图论构建检索文档的语义相似性图，从而能够检测恶意拓扑结构。实验表明，TopoGuard的变体非常有效，能够以低延迟和高鲁棒性捕获比LlamaGuard-2-8B等现有过滤器多得多的攻击。 AI

影响 增强了RAG系统在面对复杂对抗性攻击时的安全性和可靠性。

排序理由 该集群包含一篇详细介绍RAG系统新防御机制的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• arXiv
• HotpotQA
• LlamaGuard
• LlamaGuard-2-8B
• retrieval-augmented generation
• split-knowledge attacks
• TopoGuard

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →