T2VAttack

新的T2VAttack方法揭示了文本到视频扩散模型的漏洞

研究人员开发了T2VAttack，一种探测文本到视频扩散模型漏洞的新方法。该攻击侧重于视频生成的语义和时间两个方面，旨在降低生成视频与其文本提示之间的对齐度，以及视频本身的时间连贯性。T2VAttack采用同义词替换和优化词语插入等策略来扰乱提示，证明即使是微小的改动也会显著损害包括ModelScope和Open-Sora在内的几款领先模型的视频质量和时间动态。