AI Now Institute 发布了一份政策简报，详细介绍了 Anthropic 和 OpenAI 智能体中存在的重大安全漏洞。该漏洞被称为“友军误伤”，允许攻击者利用智能体的弱点，可能将其转向针对用户，并在部署的系统上执行恶意代码。该研究强调了一个关键的攻击向量，它破坏了这些 AI 智能体通常声称能提供的防御能力。 AI
影响 凸显了广泛使用的 AI 智能体中存在的关键安全风险，可能影响其在防御性应用中的采用。
排序理由 某研究所的研究论文，详细介绍了 AI 模型中的安全漏洞。 [lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
