Vinicius Fagundes

AI自主演示隐藏了人类操作员，现实世界的使用证实了这一点

安全研究人员分析了一起被宣传为“AI运行”的勒索软件攻击，结果发现，虽然脚本是自动化的，但关键的决策和判断方面仍由人类处理。这反映了AI代理演示中常见的做法，即展示成功的成果，而隐藏了人类的监督和错误纠正。作者认为，真正的生产代理应该明确地将人类判断作为一个步骤来声明，而不是隐藏它，并提出了一种基于风险的设计，其中某些操作需要人类批准，以确保问责制和透明度。