MADAM-RAG

RAG 系统架构在知识库中毒方面表现出不同的鲁棒性

研究人员调查了检索增强生成（RAG）系统在知识库中毒方面的脆弱性，发现系统架构对对抗性鲁棒性有显著影响。在 Natural Questions 数据集上的评估显示，与普通 RAG 系统相比，旨在处理冲突信息（如递归语言模型 RLM）的架构在抵抗中毒攻击方面明显更具抵抗力。研究表明，对于大多数架构而言，对抗性框架而非检索优化是攻击成功的首要驱动因素，突显了内容推理阶段是关键的脆弱点。