研究人员开发了一种新的多跳心智理论评估方法,名为 Triadic Werewolf,用于评估大语言模型。该游戏扩展了传统的 Werewolf 游戏,引入了一个具有相反获胜条件的“弄臣”(Jester)角色,要求模型在三个对立的效用函数之间进行推理。在对 GPT-4.1、DeepSeek-V3.1 和 Llama 3.3 70B Instruct 的测试中,“弄臣”角色非常成功,赢得了 60-70% 的游戏,而狼人阵营的胜率很少超过 20%。值得注意的是,GPT-4.1 在此方面表现不佳,经常过早地投票淘汰“弄臣”,这表明其在该复杂的多智能体推理场景中存在弱点。 AI
影响 这种新的评估方法可以揭示大语言模型在当前基准测试之外的更深层次的推理能力。
排序理由 该集群包含一篇详细介绍大语言模型新评估方法的论文。
在 arXiv cs.MA (Multiagent) 阅读 →
- DeepSeek-V3.1
- GPT-4.1
- Llama 3.3 70B Instruct
- theory of mind
- Triadic Werewolf
- jester
- Villagers
- werewolf
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →