Valeria Ruscio

大型语言模型幻觉的解释：读写能力差距

一篇新的研究论文探讨了大型语言模型（LLM）在拥有正确信息的可访问中间处理状态的情况下，仍然生成不正确答案的现象。该研究题为“舌尖上的幻觉：为什么大型语言模型会‘编造’它们能解码的答案”，区分了模型从其内部状态‘读取’正确标记的能力与其选择该标记作为最终输出的‘写入’能力。研究人员发现，即使正确答案是可读的，LLM也常常无法选择它，并将此归因于最终读出阶段的选择边际。将答案支持修改到成功生成的典型水平可以恢复许多失败情况下的首个标记选…