一项微调实验展示了小型语言模型中“灾难性遗忘”现象。当模型被训练来学习关于一个名叫Zuri的斑马角色的新故事时,它在关于一个名叫Momo的猴子的原始睡前故事上的表现显著下降。困惑度(衡量模型预测文本能力的指标)从旧故事的9飙升至156,表明其先前能力严重受损。作者提出了一种名为“回放”的解决方案,即在每个微调批次中包含一小部分原始训练数据,以帮助模型保留其先前的知识。 AI
影响 展示了LLM微调中的一个关键挑战,并提出回放作为一种减轻知识损失和提高模型适应性的方法。
排序理由 该条目描述了与LLM训练和性能相关的实验和发现,符合研究类别。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →