研究人员推出了 PerSo,这是一个旨在评估大语言模型(LLM)在真实说服场景中社交智能的新基准。该基准评估认知智能(推断心理状态的能力)和行为智能(选择适当的社会行动的能力)。PerSo 利用了 Reddit 的 ChangeMyView 社区的对话以及一个 LLM 驱动的管道来构建任务,并通过人工标注进行验证。评估表明,虽然较大的模型通常表现更好,但最好的 LLM 在行为任务上的表现略微超过人类,但在认知推理方面,人类的表现仍然优于 LLM。 AI
影响 该基准有望推动开发更具社会意识和更有效的大语言模型,以实现人机交互。
排序理由 该条目描述了一篇介绍用于评估大语言模型能力基准的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- ChangeMyView
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- LLMs
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →