Mohammadreza Rashidi

ReAct Agent 易受提示注入攻击，深度是关键

研究人员调查了 ReAct Agent（结合推理和工具使用）在间接提示注入攻击方面的脆弱性。他们的研究发现，注入在工具序列中的深度显著影响攻击的成功率，早期注入更有效。Claude Haiku 在所有深度上都表现出对这些攻击的强大抵抗力，而 GPT-4o-mini 的成功率随着注入深度的增加而显著下降。研究还表明，回合预算似乎不是主要的风险因素，但框架会影响成功率。