研究人员开发了Grid-Bench,这是一个旨在评估大型语言模型(LLMs)预测顺序空间操作结果能力的新基准。该基准涉及转换由网格表示的离散世界,模型根据初始配置、规则和基于文本的事件历史来预测最终状态。对六个LLMs的评估显示,随着事件历史的延长,完整状态的准确性急剧下降,即使在精确匹配分数相似的模型之间也突显了模型性能和错误模式的显著差异。 AI
影响 该基准可能会揭示LLMs在处理顺序推理和状态跟踪方面的关键局限性,影响其在需要复杂环境交互的任务中的开发。
排序理由 该集群包含一篇详细介绍用于评估LLMs的新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →