研究人员推出了 AGI Maze Prediction Datasets and Benchmark,这是一个新的、轻量级的测试平台,旨在评估 transformer 模型的世界建模能力。该基准侧重于通过各种预测任务学习可转移的、受动作条件影响的动力学,包括逐步转换和顺序文本观察。对不同 transformer 架构的实验表明,包含结构化、任务对齐的记忆单元的模型,例如伪视频空间记忆 transformer,在特定预测任务上的表现明显优于通用潜在记忆 transformer 和标准的字节级基线。 AI
影响 引入了一个评估 transformer 世界建模能力的基准,可能指导未来在结构化记忆方面的 AI 研究。
排序理由 该项目是一篇介绍新基准和实验结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- AGI Maze Prediction Datasets
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- DagsHub
- Gotit.pub
- Hugging Face
- latent-memory Transformer
- Litmaps
- ScienceCast
- scite Smart Citations
- spatial-memory Transformer
- Transformer++
- transformers
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →