大型语言模型中的幻觉并非 bug，而是其设计中固有的特征，源于其预测最统计上合理下一个 token 的核心功能。这意味着大型语言模型本身不区分事实与虚构，事实准确性是训练数据的副产品，而非内在能力。因此，系统设计者应假定幻觉会发生，并构建验证层，例如检索增强生成（RAG），它将任务从回忆转变为总结，使输出更易于验证。 AI
影响 将大型语言模型应用的 the design paradigm 从期望真实性转变为假定并验证潜在的虚假性。
排序理由 该集群是一篇讨论大型语言模型幻觉性质的观点文章。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>A language model that hallucinates is not a broken language model. It is a language model doing exactly what it was built to do: produce the most statistically plausible next token given everything it has seen before. The fabricated citation, the invented quarterly figure, the…