研究人员开发了一种名为EPIC(Exact-KL Prefix Importance-Ratio Clipping)的新方法,以提高通过强化学习训练的自回归大型语言模型(LLM)的推理能力。该方法通过考虑生成前缀的累积似然比,将自回归生成重新构建为马尔可夫决策过程,从而解决了标准令牌级裁剪的局限性。实验表明,EPIC在数学推理基准测试上的表现优于现有的裁剪方法,即使与更复杂的路由-重放替代方案相比也是如此。 AI
影响 通过改进强化学习训练方法,增强了LLM的推理能力,尤其是在数学任务方面。
排序理由 该集群包含一篇详细介绍LLM新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →