研究人员推出了PushupBench,这是一个旨在评估视觉语言模型(VLM)在视频中准确计算重复次数能力的新数据集。该基准测试表明,即使是顶级VLM在此任务上也表现不佳,在计算俯卧撑次数方面仅达到42.1%的精确准确率。此外,研究还发现,一些模型可能利用统计偏差而非进行真正的时序推理。有趣的是,在该计数任务上对模型进行微调可以提高它们在更广泛的视频理解基准测试上的表现。 AI
影响 突出了当前VLM在时序推理和计数方面的一个关键限制,可能指导未来的模型开发。
排序理由 该集群包含一篇介绍用于评估视觉语言模型的新基准测试的学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →