新研究揭示 LLM 因内部信念状态很少承认错误

一篇新的 arXiv 论文探讨了导致大型语言模型 (LLM) 承认错误（撤回）的内部机制。研究人员发现，即使 LLM 在单独的交互中能够识别错误，它们也很少撤回不正确的答案。撤回的一个关键预测因素是模型在生成过程中的内部“信念”状态，这可能与其参数知识不同。实验表明，影响这种信念状态可以因果性地驱动撤回，并且监督微调主要通过提高这些内部信念的准确性来改善撤回。 AI

影响 这项研究强调了当前 LLM 的一个关键局限性，表明提高它们承认错误的能力可能需要关注其内部“信念”机制，而不仅仅是事实知识。

排序理由 该集群包含一篇发表在 arXiv 上的学术论文，详细介绍了研究结果。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• Influence Flower
• LLMs
• ScienceCast
• Yuqing Yang

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →