grep-tool

新工具测试 AI 拒绝规则是否能抵御休眠提示注入

一款名为 deny-probe v0.4.0 的新工具已发布，用于测试拒绝规则在面对复杂的提示注入攻击时的有效性。与简单的提示注入不同，这些“爆炸性”提示会休眠，直到被特定条件触发，从而使其对传统的拒绝列表不可见。对抗性测试表明，这些基于触发器的注入比直接指令的成功率显著更高。Deny-probe 模拟了各种触发场景，以揭示在提示激活后，系统的拒绝规则是否仍能阻止恶意操作。