研究人员正在探索新的在线策略蒸馏(OPD)方法,以提高大型语言模型训练的效率和有效性。一种方法是流式在线策略蒸馏(Streaming On-Policy Distillation),它将响应生成、监督传递和参数更新解耦,从而实现连续生成和有针对性的损失计算。另一种方法是B-OPSD,它仅从问题生成问题摘要,在不需要真实答案的情况下提供教师指导,在数学推理任务上显示出更高的准确性。第三种技术是随机视界在线策略蒸馏(SH-OPD),它通过改变滚出视界来减少冗余监督,从而在保持推理和代码生成任务具有竞争力的性能的同时,节省了大量成本。 AI
影响 这些新的蒸馏技术可能导致更高效的大型语言模型训练,降低计算成本,并可能实现更快的开发周期。
排序理由 该集群包含多篇学术论文,详细介绍了LLM在线策略蒸馏的新研究方法。
在 Hugging Face Daily Papers 阅读 →
- FLNA
- On-Policy Distillation
- SH-OPD
- Stochastic Horizons On-Policy Distillation
- arXiv
- B-OPSD
- GSM8K
- Hugging Face
- Qwen3
- Qwen3-0.6B
- Qwen3-4B
- Streaming On-Policy Distillation
- Zhi Xu
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →