研究人员开发了一种名为On-Policy Power Distillation (OPPD) 的新颖方法,用于训练语言模型以提高其推理能力,而无需外部评分或参数更改。OPPD直接训练模型生成更优化的答案,有效地将概率转移到模型最可能正确的响应上。该技术在MATH500、GSM8K和HumanEval等多个基准测试中显示出显著的准确性提升,优于GRPO等现有方法,并取得了与广泛候选采样相当的收益。 AI
影响 该方法可能带来更高效、更准确的AI推理能力,并可能减少训练中对大量计算资源的需求。
排序理由 该集群包含一篇详细介绍语言模型新训练方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →