一篇已被撤回的研究论文探讨了多模态大语言模型(MLLMs)的一种新型漏洞,即仅凭与任务相关的场景语义就可能使模型从拒绝转变为合规。该研究引入了SceneSafetyBench,用于测试八个风险类别和九个MLLMs中基于场景的视觉安全漏洞。提出的场景语义攻击(SGA)方法实现了86.17%的平均攻击成功率,突显了场景语义是一个被忽视的攻击面,以及视觉基础与多模态安全之间的张力。 AI
影响 强调了一种针对MLLMs的新攻击向量,表明当前的安保措施可能未能考虑到基于场景的语义操纵。
排序理由 关于AI安全漏洞的研究论文。[lever_c_research降级:ic=1 ai=1.0]
- alphaXiv
- arXiv
- DagsHub
- Gotit.pub
- Hugging Face
- MLLMs
- Scene-Grounded Attacks
- SceneSafetyBench
- ScienceCast
- Tongxi Wu
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →