一篇新发表在arXiv上的研究论文探讨了大语言模型(LLMs)在执行多跳推理方面的局限性。该研究题为“多跳知识组合受预训练暴露的限制”,证明了即使在单个事实已知且可检索的情况下,LLMs在复杂的推理任务上也遇到困难。研究人员发现,这种失败根源于预训练阶段,因为在训练期间接触过组合式上下文的模型在未见过的组合式问题上表现更好,而未接触过的模型则继续失败。 AI
影响 强调了LLM推理能力的根本性局限,表明预训练数据组合是复杂问题解决的关键。
排序理由 研究论文,详细说明了LLM在多跳推理方面的局限性。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- large-language models
- ScienceCast
- Yannis Karmim
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →