研究人员发现AI世界模型存在指令泄露问题

研究人员发现，在那些使用语言目标来接地空间关系（例如“将红色积木放在蓝色积木的左边”）的紧凑世界模型中存在一个关键问题。他们发现，这些模型经常出现“指令泄露”，即模型的准确性来自于转录指令，而不是来自于对场景的实际感知。当目标指令被撤销或更改时，准确性显著下降，这表明模型并未真正接地空间关系，从而证明了这种泄露的存在。提出的解决方案包括将目标与动态分开，并监督读取路径以实现指令无关的接地。 AI

影响 识别出AI模型学习空间推理的一个关键缺陷，可能影响更强大、更具泛化能力的AI系统的开发。

排序理由 该条目是一篇学术论文，详细介绍了一个新发现以及针对AI模型中技术问题的拟议修复方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• BabyAI
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• Language Table
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →