Lean4

新训练方法提升大语言模型在定理证明中的推理能力

研究人员开发了一种名为“反馈蒸馏”（Feedback Distillation）的新训练方法，以提高大语言模型在定理证明等复杂推理任务中的性能。该技术使用一个语言模型生成反馈，然后利用该反馈为正在训练的模型提供令牌级监督。在Lean4定理证明环境中的实验表明，与GRPO等传统方法相比，反馈蒸馏能够产生更多样化的解决方案并实现更好的扩展性，同时也可以作为GRPO的有力初始化。