研究人员开发了一种名为认知记忆原语(CMP)的新架构,旨在对抗AI模型中的灾难性遗忘。与依赖反向传播和附加修复的传统方法不同,CMP使用无梯度局部学习规则,并将输入存储为稀疏关系码。在15个文本域的实验中,CMP与使用在线EWC训练的Transformer模型相比,表现出显著更好的反向迁移,提高了15-19倍。然而,该架构也表现出与Transformer基线相比明显的准确性差距,并且未能提高视觉基准的性能。 AI
影响 引入了一种新颖的学习范式,可以减少广泛重新训练的需求并提高模型稳定性。
排序理由 学术论文,详细介绍了新颖的AI架构及其在特定基准上的性能。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →