研究人员发现,在处理图表时,大型视觉语言模型(LVLMs)的内部表示与其预测能力之间存在脱节。尽管 LVLMs 在图表理解基准测试中表现出熟练度,但它们常常无法掌握关系,特别是涉及定向边的关系。通过对合成图表和流程图的实验,研究发现与节点和边相关的信号可以从模型的隐藏状态中解码,并且在某些情况下,这些信号会因果性地影响模型的预测。这表明模型内部处理的信息与其生成的输出之间存在差距。 AI
影响 揭示了当前 LVLM 图表理解的局限性,为未来模型开发指明了方向。
排序理由 学术论文,详细介绍了关于 LVLM 能力的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →