extraction pipeline

LLM 文档处理易受提示注入攻击

当大型语言模型处理文档时，可能会发生提示注入攻击，因为文件中隐藏或嵌入的文本可能被解释为指令。攻击者可以通过在 PDF 等文档中插入恶意文本来利用这一点，然后由 LLM 的提取管道进行处理。这些攻击旨在更改银行账号或批准标志等关键数据，而不是让模型说出令人尴尬的话。防御措施应侧重于将所有文档视为不受信任的输入，并根据模式进行验证，而不是依赖模型忽略文档中的指令。