研究人员开发了新的方法,通过具有可验证奖励的强化学习(RLVR)来提高大型语言模型(LLMs)的推理能力。一种名为Flat-RLVR的方法通过促进平坦奖励最优值来解决“分布锐化”问题,从而平滑策略分布并增强样本多样性,同时保持准确性。另一种方法“激活空间探索”(ASE)通过对正确和错误响应之间的激活差异进行聚类来使训练 rollout 多样化,从而提高了在数学推理基准上的性能。 AI
影响 这些方法有望提高大型语言模型更强大和更多样化的推理能力,从而改善它们在复杂任务上的表现。
排序理由 该集群包含两篇arXiv论文,详细介绍了提高大型语言模型推理能力的新颖方法。
- Activation-Space Exploration
- arXiv
- Flat-RLVR
- Grpo
- Hugging Face
- LLMs
- Qwen3-1.7B-Base
- Qwen3-8B-Base
- Reinforcement Learning with Verifiable Rewards
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →