PulseAugur
中
实时 09:04:45
English(EN) When to Call an Apple Red: Humans Follow Introspective Rules, VLMs Don't

VLMs 无法遵守自身的推理规则，而人类可以

作者 PulseAugur 编辑部 · [1 个来源] ·

一项新的研究论文介绍了一个分级颜色归因（GCA）数据集，用于研究视觉语言模型（VLMs）的可靠性。研究发现，虽然 VLMs 可以准确评估颜色覆盖率等视觉信息，但它们经常与其自身陈述的推理规则相矛盾。相比之下，人类参与者在遵循内省规则方面表现出更大的忠实度，其偏差是由认知偏见解释的，而不是推理失败。这种差异凸显了 VLM 自我知识的校准不当，对其在高风险应用中的可靠部署构成了挑战。 AI

影响 凸显了 VLM 推理中潜在的不可靠性，影响了在关键应用中的信任和部署。

排序理由 介绍新数据集和 VLM 行为研究结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

VLMs 无法遵守自身的推理规则，而人类可以

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Jonathan Nemitz, Carsten Eickhoff, Junyi Jessy Li, Kyle Mahowald, Michal Golovanevsky, William Rudman ·

    何时称苹果为红色：人类遵循内省规则，VLMs 不遵循

    arXiv:2604.06422v2 Announce Type: replace-cross Abstract: Understanding when Vision-Language Models (VLMs) will behave unexpectedly, whether models can reliably predict their own behavior, and if models adhere to their introspective reasoning are central challenges for trustworth…

相关实体

相关话题