LLM distillation

新的 LLM 蒸馏方法在无目标反馈的情况下减轻教师偏见

研究人员推出了一种名为耦合校准与学习（CCL）的新型算法，用于将大型语言模型（LLM）的知识蒸馏到更小的学生模型中。CCL 解决了教师偏见和错误转移的问题，尤其是在协变量偏移且目标域奖励反馈不可用的情况下。该方法使用源问题反馈迭代地校准教师模型，然后利用此校准后的教师模型在目标问题上训练学生模型。理论分析表明，CCL 可以收敛到零 Kullback-Leibler 散度，并拥有一个神谕学生，从而在无需目标数据奖励反馈的情况下有效减轻持…