一篇新的研究论文认为,推理模型中使用的“等待”标记,通常归因于强化学习(RL),主要是从训练数据中继承而来,而非RL本身的发明。该研究追溯了该标记在各种开放模型中的起源,发现即使在“等待”词不存在的情况下,RL也能显著提高Math-500等基准测试的准确性。研究还警告不要仅仅依赖LLM作为评判指标,因为它们可能会误读人类评估中观察到的推理趋势。 AI
影响 挑战了RL在开发推理标记方面所扮演角色的认知,表明对训练数据的更大依赖,并警告了自动化评估指标的局限性。
排序理由 该集群包含一篇研究论文,详细介绍了推理模型中特定标记起源的发现。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →