Feedback Distillation

LLM针对Lean中的高效形式定理证明进行了优化

两篇新研究论文探讨了在Lean环境中提高大型语言模型（LLM）在形式定理证明中的效率和有效性的方法。第一篇论文介绍了一种动作路由代理，该代理通过使用编译器反馈来指导搜索并降低计算成本，从而优化成本-质量权衡。第二篇论文提出了一种“反馈蒸馏”训练方法，该方法利用语言模型的反馈来改进令牌级别的监督和探索，在生成多样化且成功的证明轨迹方面优于传统的强化学习技术。