一位安全研究人员详细介绍了一种将隐藏指令注入PDF文档的方法,该方法可以操纵大型语言模型(LLM)生成虚假信息。这些攻击利用了PDF渲染功能,如白底白字、零高度文本或页面外内容,这些内容对人工审阅者不可见,但会被LLM的文本提取器处理。研究人员开发了一个多层级的PDF级检测系统来对抗这些特定的PDF操纵技术,同时还提出了一个在文本到达LLM之前对其进行操作的文本清理层。 AI
影响 突出了LLM的新攻击面,需要为文档处理AI系统提供强大的输入清理和特定于PDF的检测机制。
排序理由 研究报告详细介绍了通过操纵的PDF文档针对LLM的新型攻击向量以及提出的检测方法。[lever_c_demoted from research: ic=1 ai=1.0]
- Accessibility Channel
- Glyph Overlap
- HiddenInk
- LLM
- Non-Text Ink
- Sentinel
- Text Raster Divergence
- Unicode Obfuscation
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →