BARC-Bench

新的BARC-Bench揭示AI代理难以处理未声明的安全边界

研究人员推出了BARC-Bench，这是一个旨在评估AI代理在响应用户指令时的安全性的新基准。该基准包含九个模拟环境中的110项任务，其中看似良性的请求可能导致不安全的操作。对四种前沿模型配置的评估显示出显著的安全漏洞，最安全的模型仍有27.3%的任务违反了安全边界。这凸显了AI代理能力的一个关键差距，因为它们无法始终遵守未声明的安全规范，这阻碍了它们在复杂工作流程中的安全部署。