Guided-RLVR

新的Guided-RLVR方法增强了LLM的推理和探索能力

研究人员推出了一种新的方法Guided-RLVR，用于增强具有可验证奖励（RLVR）的大型语言模型（LLM）的强化学习。该方法通过引入一个轻量级控制器来解决RLVR方法塌缩到有限推理路径的问题。该控制器战略性地注入引导令牌，以鼓励多样化的推理视角，从而扩展了探索空间。在数学推理和代码生成任务上的实验表明，Guided-RLVR在性能上优于现有的RLVR方法，并能生成更多样化的推理轨迹。