V-DEAL

新的V-DEAL框架诊断视频LLM中的安全缺陷

一项新的研究论文介绍V-DEAL，一个旨在识别视频大型语言模型（Video LLM）安全漏洞的诊断框架。研究发现，与明确有害的查询配对相比，有害视频与良性查询配对更容易受到攻击。V-DEAL分析模型行为、理解和内部表征，以查明这种“理解-拒绝耦合失败”，揭示与文本理解相比，视觉理解触发的拒绝倾向较弱。研究人员还开发了一种提示注入方法，该方法显著降低了攻击成功率，为增强Video LLM安全性提供了一个实用的解决方案。