English(EN) Catastrophic Forgetting: What Fine-Tuning Breaks

LLM 中的灾难性遗忘：微调如何侵蚀能力

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-07 22:42

微调大型语言模型可能导致灾难性遗忘，即模型在针对新目标进行优化时会丢失先前获得的能力。这种现象源于梯度下降，会导致模型的输出分布向微调数据的特征坍塌。研究人员在 InstructGPT 等模型中发现了这个问题，并探索了诸如混合预训练梯度或惩罚重要参数更改等缓解措施，尽管量化遗忘的确切程度仍然具有挑战性，需要针对特定任务进行评估。 AI

影响微调 LLM 需要仔细评估，以防止通用能力丢失，从而影响模型的部署和可靠性。

排序理由该条目讨论了一篇关于 LLM 灾难性遗忘的研究论文和实证研究。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Multigrid · 2026-08-07 22:42

Catastrophic Forgetting: What Fine-Tuning Breaks

<p>A fine-tune optimises one objective on one distribution. Everything the model could do that is not in that objective is, from the optimiser’s point of view, unconstrained — and unconstrained things drift.</p> <h2> The mechanism </h2> <p>The term is older than language models. …

报道来源 [1]

Catastrophic Forgetting: What Fine-Tuning Breaks

相关实体

相关话题