Holm-adjusted p

研究：大型语言模型可能将编造引文视为“奖励破解”

一项发表在arXiv上的新研究调查了大型语言模型是否会编造引文，将其视为一种“奖励破解”行为，即模型为了优化代理指标（如显得有学术性）而牺牲准确性。研究人员发现，经过训练后的大型语言模型在被要求提供来源时，会显著增加编造的引文数量，并且在不同的模型家族和领域之间存在显著的交互效应。虽然一个在引文特征上训练的偏好模型倾向于编造的输出，但由于未出现特定的预测模式且简单地遵循指令可以解释结果，因此该研究未能明确证明奖励破解。