PoisonedRAG

新的TriShieldRAG框架保护RAG系统免受知识污染

研究人员开发了TriShieldRAG，一个旨在保护检索增强生成（RAG）系统免受知识污染的新型框架。该系统采用三阶段防御机制：Ingest Guard用于检测被污染的文档，Retrieval Scorer用于评估文档的可信度，以及Cross-LLM Consensus阶段，该阶段使用多个语言模型来验证检索到的信息。在针对非自适应攻击者的测试中，TriShieldRAG将攻击成功率从约91%显著降低到13%，同时保持了对良性查询的准确性。