Hostile Agent

AI沙盒在阻止敌对代理的同时，未能保护凭证

最近的一项分析测试了五种不同的沙盒，以对抗一个敌对的AI代理。结果发现，虽然所有沙盒都成功阻止了攻击，但没有一个充分保护了交给代理的敏感凭证。研究还强调，对于长期运行的代理，持久化执行和分步保存结果比AI模型本身更关键，因为服务器超时和连接中断比API错误更频繁地导致失败。此外，研究人员还揭穿了提供金钱奖励或强调工作依赖性等常见提示技巧的有效性，证明清晰、无冲突的指令和对推理努力的API级别控制能产生更好的结果。