IESBench

视觉提示词利用图像编辑AI安全漏洞，提出新防御方法

研究人员开发了一种新颖的“以视觉为中心的越狱攻击”（VJA），该攻击通过使用视觉提示词而非文本来利用大型图像编辑模型的漏洞。此方法可以绕过Nano Banana Pro和GPT-Image-1.5等模型的安全措施，在生成有害内容方面取得了很高的成功率。为应对此问题，提出了一种基于内省多模态推理的无训练防御机制，该机制在无需额外保护模型或大量计算资源的情况下显著提高了模型安全性。