Cameron J.R. McClelland

提示注入分类法详细介绍了四种攻击向量和防御措施

提示注入是语言模型中的一种关键漏洞，分为四种不同类型：直接、间接、存储和跨代理。直接注入发生在攻击者控制用户输入以覆盖系统指令时，通常由模型护栏防御。间接注入涉及将恶意指令隐藏在模型处理的数据中，例如网页或文档，这需要运行时检查来防御。存储注入将有效载荷植入持久内存或 RAG 存储以供以后执行，需要内存完整性检查。最后，跨代理注入发生在感染从一个代理传播到另一个代理时，通过身份和每跳策略进行防御。