研究人员开发了一种名为SURGE(Scaling Up RL Gradient-free via Eigenspace fusion)的新技术,可以在不增加额外训练时间或推理计算的情况下,提高现有强化学习(RL)模型的性能。SURGE结合了同一RL训练历史中的两个检查点,生成了一个优于两个原始检查点的新策略。该方法在数学推理和编码基准测试中均显示出改进,证明了存储的RL历史是扩展模型能力的宝贵资源。 AI
影响 这项技术可以更有效地利用现有已训练模型,可能减少对大量再训练和计算资源的需求。
排序理由 该集群包含一篇详细介绍改进AI模型新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →