toolpoison

Model Context Protocol 服务器易受工具投毒和隐藏指令攻击

Model Context Protocol (MCP) 存在安全漏洞，主要通过“工具投毒”和“不可见指令”实现。工具投毒是指在服务器的工具描述中嵌入恶意命令，AI 模型会将其作为合法指令执行。不可见指令则利用对人眼不可见但 AI 可处理的字符，实现隐藏指令，例如忽略先前命令。这些攻击利用了 MCP 的设计缺陷，即工具描述被视为直接输入模型，并且本地服务器以用户的全部权限运行，这使得检测和缓解变得困难。