Salience Normalization

新的“显著性诱导”攻击针对多跳AI代理

研究人员发现了一种针对多跳检索增强生成（RAG）代理的新攻击向量，称为显著性诱导。该方法通过操纵真实信息的位置、强调或框架来重定向代理推理，即使没有明确的指令或内容投毒。该攻击已在GPT、Claude、Gemini、DeepSeek和Qwen等多种前沿模型以及ReAct和Reflexion等代理架构上得到验证。提出的防御方法“显著性归一化”显著降低了攻击的成功率。