Luca Beurer-Kellner

新漏洞揭示 AI 代理易受恶意工具描述攻击

在 AI 代理处理工具描述的方式中，尤其是在 MCP 服务器中，已发现一个安全漏洞。恶意指令可以嵌入到工具清单的“description”字段中，代理通常会将其视为受信任的文档。这使得攻击者能够通过将指令隐藏在人类审阅者可能忽略的不可见字符或纯文本中，诱骗代理执行有害命令，例如窃取 API 密钥等敏感数据。提出的解决方案包括将工具描述视为不受信任的输入，对 Unicode 进行规范化，去除不可见字符，并在注册工具之前标记命令式指令。