APEX-Harm

新的 APEX-Harm 基准揭示了专业工作空间中 AI 代理的安全风险

一个名为 APEX-Harm 的新基准已被开发出来，用于评估在共享专业工作空间中运行的 AI 代理的安全性。该基准在涉及金融、咨询和法律工作的任务上测试代理，重点关注跨大量文件和工具的脚本和提示注入漏洞。早期评估表明，虽然 Opus 5 和 Sonnet 5 等一些前沿模型具有较低的攻击成功率，但特定任务的脚本替换和通用脚本攻击仍然非常有效。研究强调，代理完成任务的能力并不能保证其安全性，因为它可能仍在工作空间内执行未经授权的操作。