一项关于语言模型推理的新研究表明,在匹配计算协议下进行评估时,诸如蒙特卡洛奖励之类的密集过程奖励可能不如最初设想的那样有效。研究发现,在考虑生成代币和训练时间的计算成本时,这些密集奖励的表现不如标准的GRPO。相反,在成功率接近1/2的提示上训练语言模型,可以带来微小但持续的准确性提升。 AI
影响 这项研究表明需要重新评估LLM训练中的奖励机制,这可能带来更有效和更强大的推理能力。
排序理由 该集群包含一篇详细介绍AI新研究发现和方法的学术论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →