研究人员引入了一个新的框架,用于评估AI系统评估游戏的能力,超越了单纯的问题解决能力。一项使用包含100多个棋盘游戏和人类判断的数据集的研究,将现代语言和推理模型与人类和符号智能体进行了比较。研究结果表明,推理模型在评估游戏回报和公平性方面与人类评估更为一致,尽管它们的表现可能不可预测,并且在接近博弈论最优时与人类的对齐度较低。研究还强调,AI系统在评估“趣味性”等主观质量时,需要更具资源理性的元推理能力。 AI
影响 为AI评估指明了一个超越任务完成的新方向,侧重于元推理和主观评估。
排序理由 学术论文,提出了一种新的AI系统评估范式。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →