新的AI训练方法使用评分标准作为开放式生成任务的特权信息

研究人员开发了一种名为On-policy self-distillation (OPSD)的新方法，该方法利用评分标准作为开放式文本生成的特权信息(PI)。该方法通过使用评分标准来指导偏好，从而增强了模型的训练信号，这比使用评分标准作为标量奖励的传统强化学习方法更有效。当应用于Qwen和Llama等模型家族时，该技术在HealthBench和ResearchQA等基准测试中表现出优越的性能，优于参考完成蒸馏和评分标准作为奖励的强化学习。 AI

影响 这项研究可能带来更复杂、更可控的开放式文本生成模型，提高它们遵循复杂指南的能力。

排序理由 该集群包含一篇详细介绍AI模型训练新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• HealthBench
• Llama
• On-policy self-distillation
• Privileged Information
• Qwen
• ResearchQA
• rubric

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →