研究人员开发了RealityBench,这是一个使用Blender中的模拟环境的新基准,用于评估视觉语言模型(VLM)记录人类体力劳动能力的任务。该基准评估两项任务:可接受性(视图是否是合适的工作证明)和文档记录(理解环境的任务相关状态)。虽然顶级的VLM可以记录帧中的文本,但它们在读取测量值和判断空间关系方面存在困难。人类评分者在可接受性方面存在显著分歧,即使是最好的VLM在该任务上的表现也与单个评分者相当。 AI
影响 该基准可以推动AI代理对现实世界体力任务理解能力的提高,这对于机器人和增强现实等应用至关重要。
排序理由 该集群包含一篇详细介绍用于评估AI模型的新基准的研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →