Nigel Bastian Cendra

贝叶斯优化可有效找到大型语言模型中的强大专家

研究人员开发了一种使用贝叶斯优化方法，可以高效地识别大型语言模型中强大的单一专家，这一过程被称为无梯度后训练。该方法将贝叶斯优化应用于权重空间的随机线性嵌入中，并使用高斯过程代理，无需反向传播。在Qwen2.5-Instruct模型上的推理基准测试表明，该方法在候选评估次数显著减少的情况下，取得了与RandOpt相当或更优的结果，降低了后训练成本，同时产生了更强大的可部署模型。