研究人员探讨了GRPO(Group-Relative Policy Optimization)训练中课程难度进阶的影响。他们在GSM8K数据集上的实验表明,虽然中等难度样本因提供的信息性学习信号而有利于初始训练效率,但持续关注它们并不能带来最高的最终模型性能。一个逐步转向中等偏难样本的分阶段课程提高了测试准确率,但进一步转向过于困难的样本则导致性能下降,这表明难度进阶带来的益处是非单调的。 AI
影响 提出了可优化语言模型训练策略的方法,有望提高在复杂推理任务上的效率和性能。
排序理由 详细介绍语言模型新训练方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →