OWASP Top 10 for LLMs

通过输入流和工具访问解释 LLM 漏洞

文章解释说，大多数大型语言模型 (LLM) 的漏洞源于两个核心问题：模型无法可靠地区分系统提示和用户输入，以及当 LLM 被赋予工具或访问外部数据时产生的攻击面扩大。这些漏洞不一定很复杂，而是源于 LLM 处理文本的基本方式。Simon Willison 借鉴 SQL 注入的类比，创造了“提示注入”一词，OWASP 已将其列为 LLM 的首要风险。主要的缓解策略是从尝试“编写更好的提示”转变为限制模型可以执行的操作。