TUMLegalTech

Bridged Self-Distillation Unifies On-Policy Reasoning Transfer

研究人员推出了一种名为桥接自蒸馏（BSD）的新型框架，旨在将任何教师模型的策略内推理迁移到一个更小的学生模型。BSD通过使用外部教师的特权推理轨迹，解决了模仿难度和令牌级概率兼容性不匹配的问题。一个自教师（学生模型的副本）在学生模型的令牌空间中对回放进行评分，并通过结果验证来指导不成功回放的更新。这种统一的方法适用于各种教师场景，包括共享分词器、跨分词器和闭源API教师，其性能优于现有基线。