PulseAugur
中
实时 13:16:44
English(EN) Depth-Dependent Indirect Prompt Injection in Tool-Calling ReAct Agents: Injection Depth, Payload Framing, and Turn-Budget Sensitivity

ReAct Agent 易受提示注入攻击，深度是关键

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员调查了 ReAct Agent（结合推理和工具使用）在间接提示注入攻击方面的脆弱性。他们的研究发现，注入在工具序列中的深度显著影响攻击的成功率，早期注入更有效。Claude Haiku 在所有深度上都表现出对这些攻击的强大抵抗力，而 GPT-4o-mini 的成功率随着注入深度的增加而显著下降。研究还表明，回合预算似乎不是主要的风险因素，但框架会影响成功率。 AI

影响 突显了当前 Agent 架构中的一个关键安全漏洞，需要改进防御措施以实现安全部署。

排序理由 详细介绍 AI Agent 新安全漏洞的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Mohammadreza Rashidi ·

    工具调用 ReAct Agent 中的深度依赖间接提示注入：注入深度、载荷构建和回合预算敏感性

    arXiv:2605.30686v1 Announce Type: cross Abstract: ReAct agents that interleave chain-of-thought reasoning with tool calls are increasingly deployed for real tasks such as scheduling, file retrieval, and data access. Their tool observation loop creates a direct attack surface: an …

相关实体

相关话题