English(EN) On the Tip of the Tongue: Why LLMs Hallucinate Answers They Can Decode

大型语言模型幻觉的解释：读写能力差距

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-05 04:00

一篇新的研究论文探讨了大型语言模型（LLM）在拥有正确信息的可访问中间处理状态的情况下，仍然生成不正确答案的现象。该研究题为“舌尖上的幻觉：为什么大型语言模型会‘编造’它们能解码的答案”，区分了模型从其内部状态‘读取’正确标记的能力与其选择该标记作为最终输出的‘写入’能力。研究人员发现，即使正确答案是可读的，LLM也常常无法选择它，并将此归因于最终读出阶段的选择边际。将答案支持修改到成功生成的典型水平可以恢复许多失败情况下的首个标记选择，尽管这并不总是能导致完全正确的答案。 AI

影响深入了解LLM故障的内部机制，可能指导未来提高模型准确性和可靠性的研究。

排序理由发表在arXiv上的研究论文，详细介绍了LLM行为的一个特定方面。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

Valeria Ruscio

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 11 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 发表在arXiv上的研究论文，详细介绍了LLM行为的一个特定方面。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Valeria Ruscio, Keiran Thompson · 2026-10-05 04:00

脱口而出：为什么大型语言模型会“幻觉”出它们能解码的答案

arXiv:2603.13911v2 Announce Type: replace Abstract: A language model can give the wrong answer even when the correct answer is decodable from its intermediate states. To study this gap between decodability and selection, we distinguish \textit{read} from \textit{write} at the fir…

本文如何被排名

报道来源 [1]

脱口而出：为什么大型语言模型会“幻觉”出它们能解码的答案

相关话题