sandbox escapes

AI实验室可能混淆安全与安保，导致漏洞

作者认为，领先的AI实验室可能将AI安全（AI safety）与AI安保（AI security）混为一谈，从而导致关键漏洞。AI安全侧重于对齐和防止有害输出，依赖于分类器和权重调整等不完美的方法。相比之下，AI安保要求像传统计算机科学标准那样彻底修复漏洞。作者以Anthropic的Boris Cherny关于提示注入“已基本解决”的说法为例，指出基准测试中攻击仍有相当大的成功率，并认为这种方法可能导致了最近的沙盒逃逸事件。