S-SPPO

新的S-SPPO框架增强了大型语言模型与人类偏好的对齐

研究人员推出了一种名为S-SPPO的新框架，旨在提高大型语言模型与人类偏好的对齐度。该方法通过引入语义校准来解决先前自玩偏好优化技术中的不稳定性问题。S-SPPO利用监督校准根据语义重叠调整胜率目标，并利用表示校准来维持模型输出的多样性，理论上确保收敛到纳什均衡。在实践中，S-SPPO在AlpacaEval 2.0基准测试中使用Llama-3-8B模型，表现出性能提升，在无需额外人工标注偏好的情况下获得了更高的胜率。