研究人员发现，使用不同AI模型的输出来进行监督微调（SFT）会显著降低所训练模型的能力。这种能力下降似乎与模型采纳了它难以有效利用的不熟悉推理风格有关。问题不一定是因为模仿了一个能力较差的教师模型，因为即使教师模型更优越，也会发生能力下降。幸运的是，这种性能下降似乎是一个浅层属性，因为只需少量训练即可恢复原始推理风格，从而挽回大部分损失的性能。 AI
影响 理解模型外监督微调如何影响AI能力对于开发更安全、更符合要求的AI系统至关重要。
排序理由 该集群描述了关于特定AI训练技术效果的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
