Multimodal Reasoning

潜在视觉推理令牌被证明在推理时并非必需

研究人员调查了潜在视觉推理的作用，这是一种通过在文本生成之前使用连续的潜在令牌将视觉证据纳入多模态推理的技术。他们的研究结果表明，这些潜在令牌在推理时并非必需，因为用噪声替换它们或完全删除它们会导致在各种基准测试中的性能损失最小。虽然潜在推理的有效性因任务而异，但该研究提出了一种基于注意力的奖励机制，以鼓励潜在令牌在强化学习过程中与文本令牌进行交互，从而提高性能和视觉基础。