English(EN) AV-SafetyBench: A Safety Benchmark for Text-to-Audio-Video Generation

新基准应对文本到音频视频生成中的安全风险

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-10 04:00

研究人员推出了AV-SafetyBench，一个旨在评估文本到音频视频（T2AV）生成模型安全性的新基准。该基准考虑了可能由音轨或音频与视觉元素的联合解释所带来的风险，从而解决了现有安全评估的局限性。AV-SafetyBench包含一个跨越四个轴的13个类别的分类法，并使用5,200个提示来评估来自完整音视频、仅视频和仅音频视角的模型输出。对五个开源T2AV模型的初步评估显示存在重大的安全隐患，完整音视频不安全率从25.1%到49.4%不等。分析强调，仅视频评估常常会忽略仅音频和联合音视频风险，表明在T2AV生成中进行全面安全评估的至关重要性。 AI

影响该基准对于识别和减轻新兴文本到音频视频AI模型的安全风险至关重要，指导未来朝着更负责任的AI方向发展。

排序理由该项目是一篇介绍新AI模型评估基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 13 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该项目是一篇介绍新AI模型评估基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Suah Choi, Tae-Young Lee, Gyeong-Moon Park · 2026-09-10 04:00

AV-SafetyBench：文本到音频视频生成的安全基准

arXiv:2609.06991v1 Announce Type: cross Abstract: Recent text-to-audio-video (T2AV) models jointly generate video, speech, sound effects, and ambience from a single text prompt. This capability poses new challenges for safety evaluation, as unsafe content may be conveyed through …

本文如何被排名

报道来源 [1]

AV-SafetyBench：文本到音频视频生成的安全基准

相关实体

相关话题