Uncertainty-Calibrated MOPD

新的MOPD方法在LLM专业化过程中保留其通用能力

研究人员开发了一种名为不确定性校准MOPD的新方法，以解决大型语言模型在针对特定领域进行专业化时普遍存在的通用能力丧失问题。该技术通过使用双温度采样和正优势密度过滤来改进标准的Multi-Teacher On-Policy Distillation（多教师在线策略蒸馏），从而更好地选择相关的训练轨迹。实验表明，该方法在角色扮演和医疗领域分别将平均通用能力提高了4%以上和10%，同时保持了专业化性能。