研究人员推出了 GlobeBench,这是一个旨在评估文本世界模型在模拟复杂强化学习环境中的能力的新基准。该基准包含五个领域和十九种模拟技能的 1,632 项任务,评估模型根据智能体轨迹和规则理解来预测环境响应的能力。在对 20 个通用和专用模型的评估中,GPT-6 Astra 取得了最高的 49.57% 成功率,尽管当操作影响到更大比例的环境或依赖对象时,准确率显著下降。研究突显了当前大型语言模型在通用世界建模方面存在巨大差距,有 631 项任务是所有测试模型都未能解决的。 AI
影响 强调了当前大型语言模型在复杂环境模拟方面的局限性,指出了世界建模未来研究和开发的方向。
排序理由 该集群描述了一个新的文本世界模型基准和评估论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- DagsHub
- GlobeBench
- Gotit.pub
- GPT-6 Astra
- Hugging Face
- Litmaps
- ScienceCast
- Scite
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →