研究人员推出了一种新颖的多智能体框架MENTOR,旨在解决大型推理模型中来自可验证奖励的强化学习(RLVR)的“零奖励崩溃”问题。与丢弃失败的训练轨迹或使用静态干预的现有方法不同,MENTOR充当一个实时的、按策略的教学导师。它实时诊断失败并生成有针对性的提示来指导学习代理,无缝集成到现有的优化流程中。实验表明,MENTOR在缓解崩溃和显著提高性能方面是有效的,在Llama-3.2-3B-Instruct上相对提高了78.3%。 AI
影响 该框架可以提高大型语言模型在复杂推理任务中的鲁棒性和效率。
排序理由 研究论文,详细介绍了一种改进LLM训练的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
- GRPO
- Large Reasoning Models
- Llama-3.2-3B-Instruct
- MENTOR
- Reinforcement Learning from Verifiable Rewards
- zero-reward collapse
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →