研究人员推出 Multi2AV-Safety，一个旨在评估多模态音视频生成系统安全性的新型基准。该基准解决了新兴的挑战，即有害内容可能源于多个单独良性输入的交互，而这种风险是现有以提示为中心的安全性评估无法捕捉的。研究发现，当前的安保措施难以检测组合风险，未能整合跨不同模态和随时间变化的安保证据。Multi2AV-Safety 数据集包含 11,024 个跨各种条件配置的攻击实例，计划于 2026 年 10 月公开发布。 AI
影响 突出了多模态生成中 AI 安全性的一个关键差距，可能影响未来更强大的安全机制的开发。
排序理由 该集群描述了一篇介绍 AI 模型安全基准的新学术论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2608.26535v1 Announce Type: new Abstract: Audio-video generation is rapidly moving from prompt-driven synthesis toward multimodal conditioning, where text, images, audio, and video can jointly shape the generated output. This shift changes the nature of safety evaluation: h…
Audio-video generation is rapidly moving from prompt-driven synthesis toward multimodal conditioning, where text, images, audio, and video can jointly shape the generated output. This shift changes the nature of safety evaluation: harmful intent may no longer reside in any single…