SilentRetrieval

SilentRetrieval 攻击通过投毒文档劫持 RAG 系统

研究人员开发了“SilentRetrieval”，这是一种旨在破坏检索增强生成 (RAG) 系统的新型两阶段攻击。该方法使用对抗性数据投毒注入经过处理的文档，这些文档在语义上得以保留且流畅，使其难以检测。该攻击在劫持各种基准测试和 LLM 的 RAG 输出方面取得了很高的成功率，即使在低投毒率下也是如此，尽管防御措施会以牺牲延迟为代价来减轻其有效性。