Mix-RL

新的MOPD技术可高效集成多种LLM能力

研究人员推出了一种新颖的训练后技术——多教师在线策略蒸馏（MOPD），旨在高效地将多种能力集成到大型语言模型（LLMs）中。该方法解决了融合多样化技能的挑战，通过将专门的强化学习教师蒸馏到学生模型中，其表现优于Mix-RL和Off-Policy Finetune等现有方法。MOPD已成功应用于包括MiMo-V2-Flash在内的工业级模型，证明了其实用性。