Qwen3-Base

新的回放方法提升 GRPO 在 LLM 推理方面的性能

研究人员为 GRPO（一种用于改进 LLM 推理的强化学习技术）开发了一种新的经验回放方法。该方法通过存储和采样单个轮次，防止它们过时并破坏训练稳定性，从而解决了标准 GRPO 的样本效率低下问题。所提出的系统根据优势幅度优先处理轮次，从而能够高效地回收有价值的数据。在 Qwen3-Base 模型上的实验表明，在多个数学基准测试中性能显著提升，且模型越大，提升越明显。