研究人员开发了AutoMaster,一个旨在提高大型语言模型教学能力的自主训练后系统。AutoMaster采用一种称为Skill-FT的技术,该技术利用自然语言技能来指导模型的行为,在训练推广过程中抑制不良习惯并鼓励更有效的行动。然后,该过程在精炼的轨迹上对目标模型进行微调。在对4B和9B模型的Terminal、Search和软件工程任务的评估中,即使在任务成功已实现的情况下,AutoMaster的表现也比标准的监督微调(Vanilla SFT)提高了1.42到8.99个百分点。 AI
影响 这项研究可能通过使模型能够更好地进行自我教学和相互教学,从而实现更高效和有效的LLM训练。
排序理由 该集群描述了一篇详细介绍改进LLM训练新方法的最新研究论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →