bulwark-mcp

新的 AI 提示注入攻击规避安全检测器

一位安全研究人员发现了一类新的提示注入攻击，可以绕过现有的检测方法。该攻击涉及在工具输出中嵌入一个看似无害的“系统注释”，让 AI 模型确信内容已被扫描并清除。这种被本地 LLM 分类器归类为“DATA”的欺骗性注释允许恶意指令在未被检测到的情况下通过。研究人员发现，即使是 Qwen2.5:14b 这样的大型模型也容易受到这种策略的影响，这凸显了当前 AI 安全防御面临的根本性挑战。