最近的 AI 安全研究突出了针对 LLM 代理的、超越传统提示注入的新攻击向量。攻击者正在利用模型上下文协议 (MCP) 和 markdown 技能文件,将它们视为隐式可信的渠道。研究表明,这些方法可能导致数据泄露和越狱,在各种模型和 MCP 实现中成功率很高。研究人员正在开发新的分类法和缓解框架来应对这些不断演变的威胁,强调需要在多个架构层级上采取安全措施。 AI
影响 新研究揭示了针对 LLM 代理的新型攻击向量,需要更新工具使用和文件处理的安全协议。
排序理由 该项目详细介绍了关于 AI 安全漏洞的新研究论文和发现。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Beyond Instruction Override: Benchmarking Indirect Prompt Injection with Task-Tampering Attacks
- .claude
- GenAI Red Teaming Manual Version 1.0
- GPT-4o
- GPTFuzzer
- Log-To-Leak
- Log-To-Leak: Prompt Injection Attacks on Tool-Using LLM Agents via the Model Context Protocol
- MCP
- Model Context Protocol
- Nvidia Sentry
- OWASP MCP Top 10
- Poisoned Skills
- Poisoned Skills: Propagating Jailbreaks Through Agent Markdown Files
- The Devil is in the Context: Nine Dimensions of Prompt Injection Attacks
- UK AI Safety Institute
- Where Does MCP Security End? A Three-Tier Mitigation Mapping Framework for the OWASP MCP Top 10
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →