Language Table

研究人员发现AI世界模型存在指令泄露问题

研究人员发现，在那些使用语言目标来接地空间关系（例如“将红色积木放在蓝色积木的左边”）的紧凑世界模型中存在一个关键问题。他们发现，这些模型经常出现“指令泄露”，即模型的准确性来自于转录指令，而不是来自于对场景的实际感知。当目标指令被撤销或更改时，准确性显著下降，这表明模型并未真正接地空间关系，从而证明了这种泄露的存在。提出的解决方案包括将目标与动态分开，并监督读取路径以实现指令无关的接地。