Vats

新的VATS框架利用AI模型错误路径进行提示注入

研究人员开发了一个名为VATS的新框架，以利用AI模型处理工具错误的方式中的漏洞。该方法系统地改变错误消息以注入恶意指令，绕过标准的安全性措施。在对Gemini 3.1 Pro和GPT-5.5等领先模型的测试中，这种错误路径注入技术显著提高了提示注入攻击的成功率，在某些评估中达到了100%。虽然目前的生产安全措施可以提供一些保护，但模型本身潜在的易感性对定制AI代理工作流程构成了风险。