split-knowledge attacks

新型TopoGuard防御机制应对RAG系统中的分裂知识攻击

一种名为TopoGuard的新型防御机制已被开发出来，用于对抗针对检索增强生成（RAG）系统的分裂知识攻击。这些攻击涉及注入看似无害的文档，这些文档组合在一起会产生错误的关联并误导语言模型。TopoGuard利用图论构建检索文档的语义相似性图，从而能够检测恶意拓扑结构。实验表明，TopoGuard的变体非常有效，能够以低延迟和高鲁棒性捕获比LlamaGuard-2-8B等现有过滤器多得多的攻击。