一个名为BedBench的新基准已被开发出来,用于评估视觉语言模型的3D推理能力。该基准揭示了模型在一致使用物体属性方面存在显著的不足,尤其是在颜色计数方面,人类准确率超过93%,而最佳模型的准确率仅为7.2%。即使经过有针对性的微调,模型在可靠应用恢复的属性方面仍然存在困难,这表明在识别和持续利用信息之间存在差距。对Qwen3.5-27B的探测显示,虽然它可以恢复精确的每种颜色计数,但其生成的答案很少反映这些信息。 AI
影响 突出了当前视觉语言模型在3D推理方面的关键局限性,需要新的评估方法和模型改进。
排序理由 介绍用于评估AI能力的新型基准的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →