新的基准测试CrackedPDFs针对PDF中的隐藏提示注入

研究人员推出CrackedPDFs，这是一个新的基准测试，旨在测试大型语言模型（LLM）系统在PDF文档中嵌入的隐藏提示注入攻击。该基准测试包含超过29,000个生成的PDF，包括恶意和良性文件，用于评估检测方法。初步评估表明，一种考虑文档结构和文本的混合检测模型，其准确性很高，优于仅依赖提取文本或结构信息的模型。 AI

影响 该基准测试可能导致更强大的防御措施，以应对文档处理AI系统中复杂的提示注入攻击。

排序理由 该项目是一篇研究论文，详细介绍了一个用于评估LLM安全性的新基准测试。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• Connected Papers
• CORE Recommender
• CrackedPDFs
• DagsHub
• Gotit.pub
• Hugging Face
• Litmaps
• PromptGuard
• Pukaphol Thienpreecha
• ScienceCast
• scite Smart Citations

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →