Prompt-Guided Sampling

新的PoisonVID攻击绕过了视频大语言模型的安全功能

研究人员开发了一种名为PoisonVID的新型攻击，可以绕过视频大语言模型（VideoLLMs）的安全措施。这些模型通过采样关键帧来审核用户生成的内容，但PoisonVID可以操纵这个采样过程。该攻击通过微妙地改变有害视频帧，使得VideoLLM的提示引导采样机制无法识别它们，从而有效地抑制安全警报。该方法在各种VideoLLM架构和有害内容类别中都显示出高成功率，甚至能够抵御多种防御机制。