研究人员开发了 ShareLock,一个用于针对模型上下文协议 (MCP) 的隐蔽式多工具投毒攻击的新型框架,MCP 是 LLM 驱动代理的基础。该框架利用 Shamir 的阈值方案将恶意指令作为秘密份额分布在多个工具描述中,增强了隐蔽性和容错能力。ShareLock 在实验中实现了超过 90% 的攻击成功率,在检测规避方面优于现有的单工具投毒策略。 AI
影响 这项研究突显了 LLM 代理新的安全漏洞,需要改进防御机制以应对复杂的投毒攻击。
排序理由 该集群包含一篇详细介绍新型攻击框架的研究论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →