一篇新的arXiv论文探讨了为什么像基于Transformer和卷积神经网络(CNN)这样的传统世界模型难以准确学习细胞自动机的精确动态。研究发现,尽管这些模型可以捕捉表面统计数据,但在滚动预测中它们经常失败,虽然能正确预测大多数像素,但无法预测整体系统演化。该研究确定了三个关键的失败模式:空间局部性不足、时间局部性不足和时间稳定性不足,并提出了对现有架构中信息流进行简单修改以解决这些问题的方法,从而实现了近乎完美的滚动预测。 AI
影响 凸显了当前AI世界模型在预测精确系统动态方面的局限性,并指出了架构改进的方向。
排序理由 学术论文,详细阐述了关于AI模型局限性的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →