研究人员 Taneja 和 Weber 发现了一个 AI 代理中的重大安全漏洞，即通过所有安全扫描的技能仍可能发出违反代理既定策略的命令。他们对超过 66,000 个 ClawHub 技能版本的分析显示，有 705 个技能尽管被扫描器判定为干净，却包含违反安全控制（如 CIS Control 2.7 和 NIST SP 800-53 CM-11）的指令。在沙箱环境中进行的进一步测试表明，这些技能中近三分之一的命令具有未声明的、潜在有害的后果，这凸显了当前扫描方法在关注恶意而非策略合规性方面存在的差距。 AI
影响 凸显了 AI 代理安全方面的一个关键差距，表明当前的扫描方法不足以防止策略违规和潜在的滥用。
排序理由 详细介绍 AI 代理安全漏洞的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
