研究人员推出了MTG-AD,这是一个新的数据集和评估框架,旨在评估多模态大型语言模型(MLLM)为视频生成内联音频描述的性能。MTG-AD数据集包含36小时的专业标注视频,重点关注用户生成内容。配套的MTG-AD-Eval框架提供了细粒度的、无参考的指标来评估端到端任务,包括将渲染脚本转换为音频以检查与现有视频内容的破坏性重叠。虽然当前的MLLM在减少语音重叠和描述视觉事件方面显示出潜力,但它们在叙事节奏和流畅性方面仍面临挑战,尽管用户发现生成的描述对理解非常有益。 AI
影响 这项工作为评估和改进MLLM生成无障碍音频描述的能力提供了一个基准,有可能增强视障用户的媒体可访问性。
排序理由 该集群包含一篇详细介绍多模态大型语言模型新数据集和评估框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Hugging Face
- Mind The Gap (MTG-AD)
- MLLMs
- MTG-AD-Eval
- Multimodal Large Language Models
- Subhashini Venugopalan
- user-generated content
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →