研究人员推出PhysMent,这是一个旨在通过交互式实验来评估大型语言模型(LLM)物理推理能力的新基准。与静态基准不同,PhysMent要求LLM通过施加力、查询状态和修改环境来积极与MuJoCo物理模拟器互动,然后再回答问题。虽然当前模型在定性任务上表现出能力,但在需要精确、多步实验程序的定量问题上,它们的性能显著下降,大多数模型在具有挑战性的单一概念任务上的得分低于30%。 AI
影响 该基准测试有望推动LLM在更强大的物理推理和交互能力方面的发展。
排序理由 该项目描述了一个用于物理推理的LLM的新基准和评估,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →