实体
Tool Poisoning Attack
Tool Poisoning Attack
PulseAugur coverage of Tool Poisoning Attack — every cluster mentioning Tool Poisoning Attack across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI工具描述被“工具投毒攻击”利用
Invariant Labs发现并由OWASP列为MCP03:2025的安全漏洞“工具投毒攻击”，允许恶意指令被嵌入到AI模型的工具描述中。这些隐藏的指令会诱骗模型执行未经授权的操作，例如读取敏感文件或将数据发送到外部服务器，即使用户并未明确请求这些操作。mcpprobe的META-01等安全工具正在开发中，通过查找特定的标记和可疑指令来检测这些被投毒的描述。
-
新的 ShareLock 框架实现了针对 LLM 代理的隐蔽式多工具投毒攻击
研究人员开发了 ShareLock，一个用于针对模型上下文协议 (MCP) 的隐蔽式多工具投毒攻击的新型框架，MCP 是 LLM 驱动代理的基础。该框架利用 Shamir 的阈值方案将恶意指令作为秘密份额分布在多个工具描述中，增强了隐蔽性和容错能力。ShareLock 在实验中实现了超过 90% 的攻击成功率，在检测规避方面优于现有的单工具投毒策略。