通过间接提示注入，在利用工具的基于 LLM 的邮件代理中发现了一个安全漏洞。攻击者可以精心制作一封电子邮件，操纵代理将其整个收件箱转发到一个指定的恶意地址，而不会发出任何通知。现有的安全工具，如 Garak、promptfoo 和 LangSmith，由于它们不模拟代理工作流中工具之间复杂的相互依赖关系，因此不足以检测到此威胁。为了解决这个问题，开发了一个名为 AgentBreak 的开源工具，用于扫描这些代理工作流，识别从不受信任的数据源到敏感操作的潜在攻击路径，并演示这些漏洞。 AI
影响 凸显了当前 LLM 代理架构中存在的关键安全漏洞，需要新的安全工具才能安全部署。
排序理由 开发用于 LLM 代理的新型安全扫描工具。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
