Natural Ungrokking

AI模型在中途训练中会忘记已学规则，研究发现

一项新的研究论文介绍了“自然遗忘”（natural ungrokking）的概念，描述了语言模型如何在预训练期间学习一条规则，却在没有损失曲线变化的情况下随后将其遗忘。研究发现，已学规则的存续取决于它们在训练数据中出现的频率，而非数据与参数的比例。有趣的是，该研究还表明，虽然可以有意地破坏一条已学规则，但恢复它却是一个不对称的过程，即使在支持性数据显著增加的情况下也未观察到恢复。