研究人员推出了一种新颖的强化学习算法 BoT-GRPO,旨在增强大型语言模型的推理能力。该方法是 GRPO 的扩展,通过将令牌级奖励聚合到“令牌包”中并相对于组统计数据计算优势,从而有效地利用令牌级奖励。BoT-GRPO 在没有评论员的情况下运行,使其成为令牌级奖励可用时 GRPO 的直接替代品。实验表明,与现有的 GRPO 变体相比,它在代码生成任务上实现了更高的编译率和更快的收敛速度,并且还提高了数学推理性能。 AI
影响 这种新的强化学习算法可以加速大型语言模型的推理,并提高在代码生成和数学问题解决等复杂任务上的性能。
排序理由 该集群描述了在 arXiv 论文中提出的一种新算法。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- Bag-of-Tokens Group Relative Policy Optimization
- BoT-GRPO
- GRPO
- Phi-4-mini-reasoning
- Qwen2.5-3B
- React
- SmolLM3 3B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →