Group Relative Policy Optimization (GRPO) 是一种强化学习技术,它通过消除对独立 critic 模型的需求来改进 Proximal Policy Optimization (PPO)。GRPO 会比较模型针对提示生成的多个答案,并偏好那些表现优于群体平均水平的答案。该方法由 DeepSeekMath 提出,与传统的 PPO 相比,显著降低了内存和计算需求,从而提高了训练大型语言模型的效率。 AI
影响 GRPO 为 LLM 提供了更内存高效的训练方法,有可能降低微调大型模型的入门门槛。
排序理由 该条目详细介绍了一种新颖的强化学习技术 (GRPO) 及其在 LLM 训练中的应用,包括在基准测试中的性能改进。[lever_c_demoted from research: ic=1 ai=1.0]
- DeepSeekMath
- DeepSeekMath-Instruct 7B
- DeepSeek-R1
- DeepSeek-R1 Zero
- Group Relative Policy Optimization
- Grpo
- GRPOTrainer
- GSM8K
- Hugging Face TRL
- LoRA+
- nodus/grpo-lora
- Proximal Policy Optimization
- QLoRA
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →