Multi2AV-Safety

新基准 Multi2AV-Safety 针对 AI 视频生成中的组合风险

研究人员推出 Multi2AV-Safety，这是一个旨在评估多模态音视频生成系统安全性的新型基准。该基准解决了新兴的挑战，即有害内容可能源于多个单独无害输入的交互，而现有的以提示为中心的安全性评估未能充分涵盖这一风险。研究发现，当前的安全性机制难以检测组合风险，即使所有输入都可见，也无法整合跨模态和跨时间的安全性证据。该数据集包含 11,024 个不同条件配置下的攻击实例，计划于 2026 年 10 月公开发布。