II-Bench

新型“隐形墨水威胁”暴露AI代理的安全风险

研究人员发现了一类针对计算机使用代理（CUAs）的新型安全威胁。CUAs是设计用于操作系统和网络的AI系统。“隐形墨水威胁”涉及低危害的注入目标，这些目标难以与合法任务区分开来，从而绕过了诸如人工干预确认等标准防御措施。一个新的基准测试II-Bench已被开发出来，包含跨三个平台的444个对抗性示例，用于测试这些威胁，揭示了当前CUAs存在的重大安全风险。