研究人员开发了改进语言模型训练的新方法，特别侧重于自我蒸馏技术。一种方法 VASPO 通过整合特权信息来提高价值预测的准确性，从而增强策略优化，在 Qwen3-4B 和 OLMo3-7B 模型上显示出数学推理基准的提升。另一种方法 SynthSelf 通过使用稍大的对齐器生成合成数据来解决小模型持续学习的挑战，从而在不遗忘先验知识的情况下获得新能力。此外，一种称为 Verbal Regularization (VRSD) 的技术通过使用系统提示来指导教师模型，防止其依赖捷径推理，并提高各种任务的准确性和 token 熵，从而改进了 on-policy 自我蒸馏。 AI
影响 这些进展可能带来更强大、更高效的小型语言模型，提高在复杂推理任务上的性能，并实现更好的持续学习。
排序理由 三篇研究论文介绍了语言模型训练和自我蒸馏的新颖方法。
在 Hugging Face Daily Papers 阅读 →
- arXiv
- Hugging Face
- Self-Distillation Fine-Tuning
- Synthetic Self-Distillation
- SynthSelf
- Knights and Knaves
- OLMo3-7B
- On-policy self-distillation
- Privileged Information
- Proximal Policy Optimization
- Qwen3-4B
- Self-Distillation with Verbal Regularization
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →
