npm run analyze

人类在游戏中会错过三分之一的AI代理威胁，尤其是伪装的命令 · 已追踪7个来源

一项对超过4万次游戏运行的分析显示，在玩家作为AI代理的人类监督者时，人类错过了大约三分之一的威胁。该游戏模拟了AI代理请求命令批准的场景，其中很大一部分命令是恶意的。玩家在处理伪装成常规脚本的命令时最为困难，例如`npm run analyze`，尽管执行日志中有明确警告，但这些命令仍被高比例批准。这凸显了人类监督AI代理的潜在漏洞，尤其是在时间压力下，用户可能不会足够仔细地审查命令。