Tuned Lens

研究：LLM不确定性不改变推理动力学

一篇新的研究论文探讨了大型语言模型（LLM）在推理过程中如何处理不确定性。该研究利用了Logit Lens的一个变体Tuned Lens，分析了多个数据集和模型上的逐层概率轨迹。与一些预期相反，研究结果表明，不确定性不会显著改变输出令牌概率的推理动力学，确定性和不确定的预测在可比层上显示出相似的置信度增加。然而，研究也表明，更具能力的模型可能以不同的方式处理不确定性，这挑战了用于检测不确定性的简单方法。