Mixture-Trained Merging

新的混合训练合并技术改进了统一语言模型

研究人员开发了一种名为混合训练合并（MTM）的新技术，以改进统一语言模型。传统上，将数学、编码和指令遵循等不同能力结合起来的方法，由于训练轨迹不兼容，常常会导致性能下降或行为崩溃。MTM通过在混合目标上训练模型分支，而不是单一目标，来解决这个问题，使其更易于合并。该方法使用合并模型评估来高效选择分支混合，并使用贝叶斯优化来实现可扩展性，其性能优于朴素合并方法。