新基准诊断视频大语言模型的视觉基础能力

一篇新论文引入了视觉依赖差距（VDG）来评估视频大语言模型（LLMs）的视觉基础能力。VDG衡量了模型处理原始视频和黑屏时的准确率差异，揭示了许多模型的性能提升并非源于视觉理解，而是帧多样性。研究发现，时间推理对准确率的贡献很小，即使稳定的聚合准确率也可能掩盖重大的问题级别答案翻转。VDG被提议作为评估视频大语言模型视觉基础能力的标准审计。 AI

影响 这项研究突显了当前视频大语言模型基准测试中的一个关键缺陷，表明需要更强大的评估方法来真正衡量视觉理解能力。

排序理由 学术论文，引入了用于评估视频大语言模型的新诊断指标。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• H.264
• arXiv
• Hugging Face
• MVBench
• video LLMs
• Visual Dependency Gap

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →