Untrusted Content Masking

新方法掩码不受信任的网页内容以保护AI代理

研究人员开发了一种名为不受信任内容掩码（UCM）的新方法，以增强Web代理的安全性。UCM通过在受信任的指令和不受信任的数据之间保持严格的分离来解决提示注入攻击的挑战，这在受信任和不受信任的内容混合在一起的Web环境中是困难的。该系统使用文档对象模型（DOM）在不受信任的网页区域到达代理之前识别并编辑这些区域，从而确保代理可以在与环境交互的同时与恶意内容隔离。