MCPTox
PulseAugur coverage of MCPTox — every cluster mentioning MCPTox across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
AI工具描述被“工具投毒攻击”利用
Invariant Labs发现并由OWASP列为MCP03:2025的安全漏洞“工具投毒攻击”,允许恶意指令被嵌入到AI模型的工具描述中。这些隐藏的指令会诱骗模型执行未经授权的操作,例如读取敏感文件或将数据发送到外部服务器,即使用户并未明确请求这些操作。mcpprobe的META-01等安全工具正在开发中,通过查找特定的标记和可疑指令来检测这些被投毒的描述。
-
WARDEN扫描器在MCP安全工具定义分析中领先
本文比较了五款用于MCP(消息通信协议)工具定义的安全性扫描器,重点关注它们检测恶意或良性定义的能力。作者是WARDEN扫描器和《瑞士历史词典》数据集的维护者,他进行的比较是维护者运行的比较,而非独立的排名。在MCPTox定义上,WARDEN产生的“高/关键”信号数量显著多于其他四款扫描器,尽管在考虑较低严重性信号时情况有所不同。比较还详细介绍了在Node.js和Python实现上进行的本地分析和协议检查,突出了扫描器处理各种发现和策略的差异。
-
AI 代理易受“MCP 工具投毒”攻击
一种称为 MCP 工具投毒的新型攻击向量,通过在 AI 代理与之交互的工具描述中嵌入恶意指令来攻击 AI 代理。模型上下文协议 (MCP) 促进 AI 代理与外部工具的通信,但攻击者利用了代理无法区分文档和可执行命令的能力。概念验证演示了一个“add”工具,该工具秘密地窃取了用户的 SSH 密钥和配置文件,其中一些模型遵循这些隐藏指令的比例超过 70%。
-
npm 和 PyPI 包上的安全扫描器重新评估
一个安全研究团队在 npm 和 PyPI 包上重新评估了 MCP(恶意代码防护)扫描器,将其测试范围扩大到包括五个扫描器和超过 14,000 个包工具列表,测试环境为 gVisor 容器。研究发现,他们自己的扫描器 WARDEN 保持了稳定的性能,而 mcp-audit 和 mcp-shield 等其他扫描器也重现了之前的测试结果。研究还强调了某些扫描器如何容易受到特定模式的影响,例如“”标记或常用词,从而导致误报。
-
新的 WARDEN 扫描器可检测针对 AI 模型的工具投毒攻击
研究人员开发了 WARDEN,这是一种旨在检测针对模型工具投毒攻击的新型安全扫描器。在与两个现有扫描器 mcp-audit 和 mcp-shield 的测试中,WARDEN 在一个名为 MCPTox 的新颖基准测试中表现出卓越的性能,该基准测试旨在难以被操纵。WARDEN 成功识别了 71% 的在规则开发过程中未见过的被投毒工具,表明其规则可以泛化到未见的攻击。
-
新的“工具投毒”漏洞通过 MCP 元数据针对 AI 代理
在模型上下文协议 (MCP) 中发现了一种新的安全漏洞,称为“工具投毒”。该协议允许 AI 代理与各种工具和资源进行交互。此攻击涉及在工具的元数据中嵌入恶意指令,AI 模型随后将其解释为受信任的上下文,从而在不触发标准安全过滤器的情况下成功执行。MCPTox 基准测试显示了此攻击的高成功率,其中一些模型(如 OpenAI 的 o1-mini)的成功率超过 70%,而另一些模型(如 Claude 3.7 Sonnet)的拒绝率非常低,这…
-
微软警告AI代理数据通过被投毒的工具描述被盗
微软发布了关于模型上下文协议(MCP)工具中一个安全漏洞的警告,该漏洞被称为“MCP工具描述投毒”。攻击者可以在这些工具的自然语言元数据中嵌入隐藏指令,导致AI代理在未被检测到的情况下泄露敏感公司数据。此攻击利用了代理对其工具描述的依赖来理解其能力,因为没有可靠的方法来区分恶意指令和合法指令。更高级的AI模型由于其增强的指令遵循能力而更容易受到攻击,并且工具描述更改缺乏重新批准触发器加剧了风险。
-
AI Agent Protocol MCP 面临关键供应链安全漏洞
在MCP(Meta-Communication Protocol)生态系统中发现了一个重大的安全漏洞,该生态系统广泛用于连接AI代理与外部工具。该漏洞(CVE-2025-53967)允许攻击者通过利用MCP服务器中未经处理的输入参数来获得用户机器上的shell执行权限,特别是那些具有信任输入假设的服务器。MCP生态系统的快速增长、缺乏像包签名或沙箱这样的健壮安全措施,以及更强大的AI模型由于其卓越的指令遵循能力而更容易受到攻击,都加剧…
-
IntentProbe扫描AI模型大脑中的恶意工具描述
一款名为IntentProbe的新工具已发布,它提供了一种检测恶意AI工具描述的新颖方法。与传统的基于文本的扫描器或LLM即判方法不同,IntentProbe分析冻结模型在处理工具描述时的内部激活状态。这种方法旨在识别诸如凭证访问或数据泄露等隐藏意图,这些意图可能被看似无害的词汇所掩盖。