提示注入是语言模型中的一种关键漏洞,分为四种不同类型:直接、间接、存储和跨代理。直接注入发生在攻击者控制用户输入以覆盖系统指令时,通常由模型护栏防御。间接注入涉及将恶意指令隐藏在模型处理的数据中,例如网页或文档,这需要运行时检查来防御。存储注入将有效载荷植入持久内存或 RAG 存储以供以后执行,需要内存完整性检查。最后,跨代理注入发生在感染从一个代理传播到另一个代理时,通过身份和每跳策略进行防御。 AI
影响 提供了一个理解和防御提示注入攻击的框架,这对于保护 LLM 应用至关重要。
排序理由 详细分类了 LLM 中的一种安全漏洞,并提出了防御措施。[lever_c_demoted from research: ic=1 ai=1.0]
- Cameron J.R. McClelland
- MCP
- OWASP Top 10 for LLM Applications
- Simon Willison
- Speakeasy
- SQL injection
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →