Kubovy

指令微调锐化语言模型中的数字选择启发式方法

一项新近发表在arXiv上的研究调查了指令微调如何影响语言模型中的数字选择启发式方法。研究人员测量了18个开源模型分配的整数概率分布，并比较了基础模型和指令微调版本的模型。研究结果表明，指令微调使这些分布的均匀性降低，具体表现为安装了圆整数回避启发式方法，并锐化了端点回避启发式方法。虽然基础模型表现出不太一致的行为，但微调后的模型几乎从不返回端点，并且显著回避了整十数。