Embodied Chain-of-Thought

新的批评者衡量具身人工智能推理的忠实性

研究人员开发了一种新方法来评估视觉-语言-动作（VLA）模型在推理中的忠实性，特别是在自动驾驶等具身任务中。他们区分了提高性能的功能性推理和准确反映模型决策过程的忠实性推理。他们提出的批评者 Pinocchio 衡量中间推理步骤的接地和连贯性，当用作强化学习中的奖励信号时，与现有的对齐策略相比，忠实性提高了 4%，与轨迹误差基线相比，忠实性提高了 18%。