English(EN) Context-Fractured Decomposition Attacks on Tool-Using LLM Agents: Exploiting Artifact Provenance Gaps

新的越狱攻击利用LLM代理工件差距

作者 PulseAugur 编辑部 · [1 个来源] · 2026-06-09 04:00

研究人员开发了一类新的越狱攻击，称为上下文破碎分解（CFD），它利用了使用工具的LLM代理中的漏洞。这些攻击利用了工件溯源跟踪中的差距，其中看似无害的中间步骤可能在后续过程中导致有害行为。与现有方法相比，CFD攻击的成功率可以提高多达28.3个百分点，即使面对强大的防御措施也是如此。 AI

影响强调了针对LLM代理的新型攻击向量，需要改进已部署系统的安全措施。

排序理由详细介绍针对LLM代理的新攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Xiaofeng Lin, Yukai Yang, Daniel Guo, Sahil Arun Nale, Charles Fleming, Guang Cheng · 2026-06-09 04:00

针对使用工具的LLM代理的上下文破碎分解攻击：利用工件溯源的差距

arXiv:2606.09084v1 Announce Type: cross Abstract: Tool-using LLM agents interact with the world through actions that persist state in artifacts (e.g., workspace files or logs). Consequently, jailbreak defenses must reason about cross-step composition rather than isolated text. Ye…