M-1042

LLM 策略网关成功阻止了 60 次提示注入尝试

一位安全研究员测试了一个旨在保护 LLM 代理免受提示注入攻击的策略网关，发现它成功阻止了所有恶意尝试。该网关使用 Python 实现，针对 Sonnet 和 Haiku 两个模型进行了测试，使用了十五份不同的文档，包括直接覆盖和隐藏指令。虽然网关阻止了漏洞，但在呈现原始、未包装的文档时，Sonnet 偶尔会尝试执行有害操作，但这些操作最终被网关的策略阻止了。