Kalai et al.

大型语言模型“幻觉”是三种不同的错误，而非一种

大型语言模型（LLM）中的“幻觉”一词被用来描述三种不同的问题，导致解决方案的开发陷入混乱。第一种类型涉及事实不准确，可以通过提供缺失的上下文来纠正模型，这是思维链提示等技术所解决的问题。第二种类型是模型输出模仿理解但缺乏真正的理解，这很难验证。第三种类型涉及对未来事件的预测，由于必要的上下文尚不存在，因此无法给出准确的响应。研究表明，当前的大型语言模型基准无意中奖励了自信的猜测而非诚实，从而加剧了幻觉问题。