Anmol Goel

新基准揭示AI计算机使用代理存在高隐私风险

一个名为AgentCIBench的新基准已被开发出来，用于评估计算机使用代理（CUAs）的上下文完整性。这些代理在电子邮件和日历等个人应用程序中运行，可能将一个上下文的信息暴露给另一个上下文，从而带来隐私风险。AgentCIBench测试了三种常见的故障模式：视觉共址、任务歧义过度分享和收件人错位。在对15个前沿代理的评估中，观察到了显著的故障率，其中11个代理在超过50%的场景中泄露信息，平均泄露率为67.9%。