Shaoxiong Guo

新的“叙事攻击”破解多模态AI模型

研究人员开发了一种名为叙事攻击（NarrativeAttack）的新型越狱技术，专门用于利用统一多模态模型（UMMs）的漏洞。该方法采用三幕叙事结构，模型生成图像用于铺垫和结局，将恶意事件隐藏在高潮部分。攻击最终以基于图像的猜谜游戏结束，迫使模型选择并响应隐藏的恶意查询。叙事攻击在Gemini 2.5-Flash上取得了显著成功，攻击成功率达到88.25%，凸显了UMMs中一个未被充分探索的漏洞以及加强安全对齐的必要性。