一篇新论文探讨了在策略内蒸馏（On-Policy Distillation, OPD）对于增强大型语言模型的有效性，特别关注数据效率和数据选择。研究发现，即使是单个示例（1-shot OPD）也可能有效，而更困难的示例通常能带来更优越的性能提升。研究表明，这种改进源于复杂问题中更长的思维链（Chain-of-Thought, CoT）路径，这有助于保持与教师模型的对齐并教授批判性思维模式。基于这些发现，提出了一种仅使用困难示例的数据选择方法，仅用8个精选的困难示例就达到了与更大数据集相当的性能。 AI
影响 提出了一种更具数据效率的大型语言模型训练方法，可能降低计算成本并提高推理能力。
排序理由 学术论文，详细介绍了一种新的大型语言模型训练方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
