Game2Real-Dataset

新的基准Game2Real-Bench显示玩具游戏与现实世界VLM推理相关

研究人员推出了Game2Real-Bench，这是一个旨在评估视觉语言模型（VLM）视觉推理能力的新基准。该基准旨在确定在玩具游戏中获得的技能是否能迁移到现实世界的视觉推理任务中。研究发现，在基于游戏和现实世界的任务上的表现之间存在很强的相关性（Pearson和Spearman均为0.935），这表明玩具游戏确实可以反映现实世界的推理模式。然而，迁移能力因能力而异，在使用游戏演示时，约束推理有所改善，而细粒度感知能力有所下降。