一篇新研究论文介绍VPA-Guard，这是一个旨在保护图像到视频生成模型免受恶意视觉提示攻击的防御框架。这些攻击利用箭头或表情符号等视觉线索来操纵模型生成有害内容。该论文还提出了VVA-Bench，这是第一个专门用于评估这些以视觉为中心的提示攻击的基准测试。实验表明，当前最先进的模型极易受到攻击，但VPA-Guard在保持模型效用的同时，能有效降低攻击成功率和有害性得分。 AI
影响 这项研究突显了图像到视频模型中存在的关键漏洞，并提供了一个潜在的解决方案，推动更安全的跨模态AI发展。
排序理由 该集群描述了一篇介绍AI模型安全基准测试和防御机制的新学术论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
Recent advancements in Image-to-Video (I2V) generation have transformed input images from simple appearance references into interactive control interfaces where visual cues such as arrows, sketches, and emojis orchestrate complex video dynamics with unprecedented controllability.…
arXiv:2606.25592v1 Announce Type: new Abstract: Recent advancements in Image-to-Video (I2V) generation have transformed input images from simple appearance references into interactive control interfaces where visual cues such as arrows, sketches, and emojis orchestrate complex vi…
Recent advancements in Image-to-Video (I2V) generation have transformed input images from simple appearance references into interactive control interfaces where visual cues such as arrows, sketches, and emojis orchestrate complex video dynamics with unprecedented controllability.…