研究人员推出了DataVista,这是首个旨在评估多模态大语言模型(MLLMs)数据视频理解能力的数据集。该数据集包含961个真实世界的数据视频和超过6700个问题,旨在评估数据感知、时间推理和叙事理解能力。对19个MLLMs的评估显示,即使是表现最好的Gemini-3.1 Pro,准确率也仅为70.0%,远低于人类专家水平,在因果推理和叙事理解方面存在明显不足。研究还发现,增加帧数和添加字幕的改进有限,尤其是在叙事理解方面,并指出了图表解读和证据判断方面的常见失败模式。 AI
影响 凸显了当前MLLMs在专业数据解读任务中的局限性,表明需要改进多模态推理能力。
排序理由 该集群包含一篇介绍新AI模型评估基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- DagsHub
- DataVista
- Gemini-3.1 Pro
- Gotit.pub
- Hugging Face
- Litmaps
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →