研究人员开发了一种名为VisCo(视觉上下文攻击)的新颖方法,通过图像驱动的上下文注入有害内容来成功越狱多模态大语言模型(MLLMs)。该技术超越了简单地将图像用作触发器,而是构建了一个完整的、逼真的越狱场景,其中视觉信息是必要组成部分。VisCo采用动态图像生成和自动毒性混淆等策略,可靠地诱导黑盒MLLMs产生有害响应。在针对使用MM-SafetyBench数据集的GPT-4o进行的测试中,VisCo实现了85%的攻击成功率和4.78的毒性得分,显著优于基线方法。 AI
影响 突出了多模态大语言模型的新漏洞,可能影响其在实际应用中的安全部署。
排序理由 详细介绍一种针对多模态大语言模型的新攻击方法的 ist 研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →