新研究揭示语言模型在一致性时间编码方面存在困难

arXiv上的一篇新论文研究了语言模型如何编码当前年份，发现模型在一致性时间推理方面存在困难。研究人员开发了两个任务来探究这一点：一个使用动词时态的联想任务和一个直接询问年份的陈述任务。虽然经过指令微调的模型可以在其训练数据截止日期的一年内估算出当前年份，但它们在联想任务和陈述任务上的内部机制存在显著差异。通过提示、监督微调（SFT）或权重编辑来更新当前年份的尝试，在同时改变这两种认知方面均未取得成功，这凸显了让语言模型在时间上保持最新所面临的挑战。 AI

影响 突出了当前大型语言模型在时间推理方面的局限性，可能影响需要最新信息的应用。

排序理由 该集群包含一篇详细介绍语言模型能力研究结果的研究论文。

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX Code Finder for Papers
• CORE Recommender
• DagsHub
• Gotit.pub
• Hugging Face
• Influence Flower
• ScienceCast
• Suze Van Adrichem

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →