Microsoft Incident Response

微软警告AI代理数据通过被投毒的工具描述被盗

微软发布了关于模型上下文协议（MCP）工具中一个安全漏洞的警告，该漏洞被称为“MCP工具描述投毒”。攻击者可以在这些工具的自然语言元数据中嵌入隐藏指令，导致AI代理在未被检测到的情况下泄露敏感公司数据。此攻击利用了代理对其工具描述的依赖来理解其能力，因为没有可靠的方法来区分恶意指令和合法指令。更高级的AI模型由于其增强的指令遵循能力而更容易受到攻击，并且工具描述更改缺乏重新批准触发器加剧了风险。