Charilaos Pipis

研究人员找出 AI 推理模型陷入循环的原因

一篇新研究论文探讨了推理模型（如 DeepSeek-R1）在解决问题时陷入循环的现象。该研究确定了两个主要原因：由于学习难度导致的风险规避，模型倾向于选择更容易的循环动作而非更难的正确动作；以及 Transformer 模型固有的归纳偏倚，倾向于时间相关的错误。虽然增加温度可以减少循环（通过鼓励探索），但它并未解决根本的学习错误，这表明需要进行训练时干预以获得更全面的解决方案。