VVA-Bench

新的防御机制VPA-Guard解决了AI视频生成中的视觉提示攻击问题

一篇新研究论文介绍VPA-Guard，这是一个旨在保护图像到视频生成模型免受恶意视觉提示攻击的防御框架。这些攻击利用箭头或表情符号等视觉线索来操纵模型生成有害内容。该论文还提出了VVA-Bench，这是第一个专门用于评估这些以视觉为中心的提示攻击的基准测试。实验表明，当前最先进的模型极易受到攻击，但VPA-Guard在保持模型效用的同时，能有效降低攻击成功率和有害性得分。