研究人员推出了 CountVideoBench,这是一个旨在评估视频语言模型物体计数能力和偏差的新基准。现有的基准在地面真实计数分布方面存在偏差,中位数为 5 或更少,这使得评估更高基数下的性能变得困难。CountVideoBench 包含 2,600 个合成视频,物体数量从 5 到 50 不等,并控制了物体运动等混淆因素。对十六个模型的评估显示,没有一个模型的精确匹配准确率超过 27.6%,并且不同模型之间的性能差异很大,这表明模型倾向于将预测集中在特定的整数上,而不是准确计数。 AI
影响 强调了需要更强大的基准来准确评估和改进视频语言模型的物体计数能力。
排序理由 该集群描述了一个用于评估 AI 模型的新学术基准。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →