Catastrophic interference
PulseAugur coverage of Catastrophic interference — every cluster mentioning Catastrophic interference across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
LiMoDE 提出新颖的两阶段学习方法以实现机器人终身操控
研究人员提出了 LiMoDE，一种旨在提高机器人终身操控能力的新颖两阶段学习方案。该方法在预训练期间利用动态专家混合（MoE）结构来获取先验知识，根据不同短期任务的运动信息激活不同的专家。在适应阶段，采用终身 MoE 适应机制来学习新专家并将其与现有专家结合，从而促进知识转移并减轻灾难性遗忘。在模拟和真实世界任务上的实验表明，LiMoDE 在可训练参数和推理开销适度增加的情况下，能有效增强终身适应性和性能。
-
新研究探究 AI 模型中的灾难性遗忘 · 追踪 4 个来源
三篇新研究论文探讨了持续学习系统中灾难性遗忘的现象，特别是在大型语言模型中。第一篇论文引入了一个受控框架来研究遗忘机制，提出表示强度和特征稀疏性起着关键作用，而不仅仅是叠加。第二篇和第三篇论文（似乎是相同的）在神经切线核（NTK）框架下提供了一个函数空间理论，提出遗忘是低秩的，并集中在特定的输出空间方向。第四篇论文对二十个最先进模型进行了机制分析，识别了脆弱的神经回路，并引入了一种名为低秩电路投影（LRCP）的新干预措施来减轻遗忘。
-
AI通过受睡眠启发的记忆重放实现持续学习
研究人员开发了一种新颖的方法来对抗人工神经网络中的灾难性遗忘，该方法受到生物睡眠过程的启发。这种方法允许AI模型在经历无监督的“类睡眠”重放阶段之前顺序学习多个任务。这种重放有助于恢复先前学习任务的性能，表明特定任务的信息是逐渐衰减而不是立即被覆盖的。
-
新的FBCC方法解决了无监督持续学习的挑战
研究人员引入了一种名为前向后向知识蒸馏持续聚类（FBCC）的新方法，以解决无监督持续学习中的灾难性遗忘问题。该方法使用教师网络学习新聚类，同时保留现有聚类，而无需 past data。在基准数据集上的实验表明，FBCC在聚类准确性方面优于现有方法，并减少了遗忘。
-
研究：强化学习比监督式微调更能保留大型语言模型电路，减少灾难性遗忘
一篇新的研究论文探讨了大型语言模型中灾难性遗忘的现象，特别是比较了强化学习（RL）和监督式微调（SFT）。研究发现，虽然SFT能更快地适应新任务，但它会严重破坏模型的内部电路，并导致先前能力的更大程度遗忘。相比之下，RL能保留更多原始模型的电路，尽管任务适应速度较慢，这表明电路的保留是RL在灾难性遗忘方面具有鲁棒性的关键。
-
新方法无需重新训练即可恢复语言模型丢失的能力
研究人员开发了一种名为DG-Hard的新型事后方法，以解决语言模型中的灾难性遗忘问题。该技术旨在通过分析模型权重更新的光谱特性，在微调后恢复丢失的能力，而无需重新训练。DG-Hard应用奇异值分解过滤步骤，以分离和保留有益的更改，同时去除残余噪声，在各种基准测试中表现出色，甚至恢复了安全对齐。
-
AI持续学习研究应对灾难性遗忘
研究人员正在探索AI持续学习的新方法，旨在克服“灾难性遗忘”的挑战，即模型在学习新技能时会丢失先前学到的信息。Google Research推出了“嵌套学习”，一种将模型视为相互关联的优化问题的范式，以缓解此问题。其他研究侧重于高效方法，如CIRCLE，它使用固定的存储库特征，以及用于LLM的SAE引导激活正则化，它在激活空间而非权重空间中运行。此外，正在开发新的指标来更好地表征遗忘，并提出了CoVON等新型优化器来平衡持续学习系统的…