研究人员开发了一种名为重试感知策略优化(ReAPO)的新方法,以增强大型语言模型(LLM)的推理能力。该方法通过引入基于随机最短路径的新型信用分配框架,解决了LLM推理中探索效率低下的问题。ReAPO修改了现有的GRPO算法,使其能够更有效地从失败的尝试中学习,在不无意中奖励先前失败的情况下强化成功的重试。在Qwen3和OLMo-2模型上的各种基准测试实验表明,与其它方法相比,ReAPO提高了首次尝试的性能,并以显著更少的生成token达到了峰值准确率。 AI
影响 通过优化训练过程中的探索和信用分配,提高了LLM的推理效率和性能。
排序理由 该集群包含一篇详细介绍改进LLM推理新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →