NameTrap

NameTrap 攻击通过变量名引导 AI 编码代理走向安全漏洞

研究人员开发了一种名为 NameTrap 的新型攻击，通过操纵第三方 Python 代码中的变量名来利用 AI 编码代理。该方法可以在不改变代码逻辑或提供明确恶意指令的情况下，引导代理引入特定的安全漏洞，例如 CWE-78 和 CWE-79。该攻击在各种代理和模型上的成功率介于 22.5% 到 56.0% 之间，甚至优于之前的投毒技术（如 XOXO）。值得注意的是，NameTrap 引入的漏洞未被多个基于 AI 和静态安全分析工具检测到。