研究人员推出了KinshipQA,这是一个旨在评估大型语言模型多跳推理能力的新基准。该基准利用生成式管道创建逼真的、特定文化的家谱数据,允许在任务难度和关系深度上进行受控变化。KinshipQA从这些家谱中提取文本推理任务,要求模型对隐含的关系链进行推理。使用六个最先进的LLM进行的初步评估显示了广泛的性能结果,并突出了不同模型和文化背景下多跳推理能力的系统性差异。 AI
影响 该基准可能会揭示LLM在执行复杂的多跳推理方面的局限性,尤其是在多元文化背景下。
排序理由 该集群包含一篇介绍用于评估LLM推理能力的新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →