研究人员开发了 VeriGate,它是 Group Relative Policy Optimization (GRPO) 的一个扩展,旨在改进推理模型的训练。VeriGate 在验证器奖励退化时使用过程监督来解决稀疏监督问题,并将步进分数转换为未来累积奖励,以实现更好的信用分配。该方法在 MATH 数据集上使用 Qwen2.5-Instruct 模型时,平均准确率提高了高达 20%,并减少了零梯度失败和奖励破解等问题,显示出显著的改进。 AI
影响 增强了 AI 推理能力和训练效率,有望在复杂任务中实现更强大、更准确的 AI 系统。
排序理由 该集群包含一篇详细介绍 AI 模型训练新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →