Hang Chen

新理论解释了大型语言模型在微调过程中能力损失的原因

研究人员开发了一个新的理论框架来解释大型语言模型中普遍能力退化（PCD）的现象，即为特定任务微调会损害通用能力。该理论认为，由窄域数据破坏预训练特征结构引起的特征干扰是根本原因。为了解决这个问题，提出了一种名为AEGIS的新型损失函数，它直接约束激活裕度以抑制干扰，同时保持任务适应性。跨多个模型家族和任务的实验表明，AEGIS在保持目标任务性能和通用能力方面优于现有方法。