Type 1: Direct injection

LLM上的提示注入攻击有两种类型，其中间接注入构成更大威胁

对大型语言模型（LLM）的提示注入攻击比通常认为的要复杂，有两种不同的类型。直接注入涉及来自用户的恶意指令，大多数系统都设计用来检测它。然而，间接注入，即有害指令隐藏在LLM处理的内容（如网页或文档）中，构成更大威胁，因为它绕过了标准的输入过滤器。防御两者都需要将所有数据视为不受信任的，扫描传入的注入和传出的数据泄露，并确保内容不授予未经授权的权限。