TS-Bench AgentDojo-Traj

研究发现AI代理守护程序易受基于语言的攻击

发表在arXiv上的一项新研究表明，旨在确保工具执行前安全性的AI代理守护程序可能容易受到基于语言的攻击。研究人员发现，将用户请求翻译成不同语言，特别是像阿姆哈拉语这样不太常见的语言，会导致许多开源和专用守护程序改变其安全判断。虽然像Gemini 3.8 Flash这样的大型前沿模型不受影响，但较小的模型却显示出假阳性或假阴性显著增加，具体取决于其大小，这表明语言确实可以成为这些AI系统的安全层面。