一个名为 BedBench 的新基准已被开发出来,用于评估视觉语言模型的 3D 推理能力。该基准突显了这些模型的一个显著弱点:虽然它们通常可以做出正确的个体判断,但在按颜色准确一致地计数对象方面存在困难。人类在 BedBench 上的表现准确率为 93.3%,而表现最佳的模型仅达到 7.2%。即使经过有针对性的微调,模型在应用恢复的属性时仍会表现出不一致性,这表明仅仅恢复信息并不能保证其在推理任务中的可靠使用。 AI
影响 凸显了当前视觉语言模型的一个关键差距,需要新的评估方法,并可能指导未来模型开发以改进 3D 推理。
排序理由 发布了一篇介绍用于评估 AI 模型的新颖基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →