bushi X, ershi Y

中文大语言模型过度使用“不是X，而是Y”句式

研究人员发现，中文大语言模型倾向于过度使用纠正性句式“不是X，而是Y”。虽然该句式经常被正确使用，但模型却频繁不必要地使用它，其使用频率远超人类写作者。研究发现，该句式仅有小部分使用存在缺陷，但超过一半的使用是可选项，这表明模型缺乏对适切性的判断，而非正确性。奖励模型和偏好该句式的大语言模型裁判，以及进一步增加开放权重模型中该句式频率的微调技术，都加剧了这种过度依赖。