AgentSentry

新的防御系统 AgentSentry 旨在对抗 LLM Agent 中的间接提示注入

研究人员开发了 AgentSentry，这是一种旨在保护大型语言模型 (LLM) Agent 免受间接提示注入攻击的新型防御机制。这些攻击将恶意指令嵌入外部工件中，然后可能在多个回合中影响 Agent 的行为。AgentSentry 通过重新执行工具返回来采用时间因果诊断，以区分用户意图的操作和受注入内容影响的操作。在 AgentDojo 上的评估中，AgentSentry 在保持高可用性的同时成功阻止了所有观察到的攻击，其表现优于现有基线。