Monte Carlo Privileged Distillation

新的蒙特卡洛方法通过降低参考敏感性来增强AI推理能力

研究人员开发了蒙特卡洛特权蒸馏（MCPD），这是一种用于AI推理的在线策略自蒸馏（OPSD）的新方法。传统的OPSD方法可能对训练过程中使用的特定参考解决方案过于敏感，导致不稳定。MCPD通过将特权上下文建模为部分参考视图上的分布来解决这个问题，蒸馏出边际教师分布。这种方法在多个视图上对教师的下一个标记分布进行平均，与标准的OPSD相比，在数学和科学推理基准测试中获得了更一致的监督和更高的性能。