研究人员调查了视频世界模型在追踪未观察到的状态时的局限性,即使它们表现出很高的视觉保真度。使用“猜杯游戏”任务,他们发现像双向和自回归Transformer、Mamba和线性注意力模型在超过一定数量的交换后难以进行外推,这表明它们没有维持世界的隐藏状态。研究表明,基于像素的扩散目标并不能监督看不见的隐藏状态,迫使模型从历史中重新推导排列。然而,研究确定了两种可以进行外推的机制:具有负转移特征值的线性注意力以及TTT中的非线性快速权重机制,这两种机制都能在块之间传递和修正状态。 AI
影响 这项研究突显了当前视频世界模型的关键局限性,表明需要能够稳健追踪未观察到状态的架构,以实现更可靠的模拟和探索。
排序理由 研究论文发布在arXiv上,详细介绍了关于视频世界模型的发现。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Bidirectional and autoregressive Transformers
- linear attention
- Mamba
- Shell Game
- video world models
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →