研究人员推出了一种新颖的同策略自蒸馏方法——共享残差蒸馏(SRD),旨在通过学习自身未经检验的同伴轨迹来改进语言模型。该技术允许模型从生成的解决方案中学习,而无需外部验证或参考答案,而是专注于预测分布变化的走向和幅度。SRD在AIME24--26基准测试中表现出显著的改进,提升了不同参数数量的Qwen3模型的性能。 AI
影响 该方法可以实现更高效的LLM自我改进,而无需依赖外部验证数据。
排序理由 该集群包含一篇详细介绍语言模型训练新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →