Distill-SFT

新的Distill-SFT方法通过受控的推理迁移提高了医学LLM的准确性

研究人员开发了一种名为Distill-SFT的受控工作流程，通过仔细选择教师推理来提高紧凑型医学语言模型的准确性。研究发现，正确的教师推理将学生模型选择正确答案的概率提高了21个百分点，而不正确的推理则降低了14个百分点。Distill-SFT通过将答案和推理合并为单个目标，在步进式蒸馏方面显示出微弱优势，并且还减轻了在域外数据集上的灾难性遗忘。