KITScenes LongTail

研究发现自动驾驶模型未能遵循自身推理

引入了一个名为 KITScenes LongTail 的新数据集，用于评估自动驾驶模型的推理能力。研究人员发现，当前模型经常未能将其陈述的推理与其执行的动作保持一致，这种现象被称为语义推理-行动不一致。有趣的是，当推理和行动不一致时，推理本身通常更准确，这表明模型拥有潜在的推理能力，但并未完全体现在其行动中。这项工作强调了模型需要连贯地依据其陈述的推理进行行动，以实现值得信赖的自动驾驶。