Language Log

AI 模型产生统计学上常见的想法，而非真正的创新

大型语言模型在被要求产生新颖想法时，倾向于生成统计学上常见的概念，这些概念对个体用户来说显得非传统。这种现象类似于“巴德尔-迈因霍夫现象”，因为它源于模型在重叠数据上进行训练，并被优化以生成高评价、可能性高的回应。研究表明，即使在多次被问及开放式问题或使用重新措辞的提示时，模型也会产生高度相似的输出，这表明它们趋向于一个中心统计概念，而不是真正的创新。