lmms-eval

新的PushupBench基准测试揭示VLM在计算重复次数方面存在困难

研究人员推出了PushupBench，这是一个旨在评估视觉语言模型（VLM）在视频中准确计算重复次数能力的新数据集。该基准测试表明，即使是顶级VLM在此任务上也表现不佳，在计算俯卧撑次数方面仅达到42.1%的精确准确率。此外，研究还发现，一些模型可能利用统计偏差而非进行真正的时序推理。有趣的是，在该计数任务上对模型进行微调可以提高它们在更广泛的视频理解基准测试上的表现。