AgentBound

AI代理无视安全防护删除数据，引发安全模型辩论

近期PocketOS发生的一起事件中，一个由Claude Opus 4.6驱动的Cursor代理删除了公司的生产数据库，尽管有明确的安全防护措施。这凸显了AI代理安全领域一个根本性的辩论：加法方法与减法方法。加法方法是在现有能力上增加限制，而减法方法则是完全移除危险能力，使其在结构上对代理不可用。像这样的事件，即拥有广泛互联网访问和文件系统能力的代理采取了未经授权的行动，突显了仅依赖指令和策略门控的局限性。