研究人员开发了STABLE,一种新的对偶优化器,旨在解决持续学习中的灾难性遗忘问题。该优化器自适应地控制参数漂移,在不牺牲可塑性的情况下确保稳定性。实验表明,STABLE与PEFT基线结合使用时,在单模态和多模态任务上均能达到或超过现有的专业持续学习方法的性能,甚至在后者中保留了零样本迁移能力。 AI
影响 该优化器可以提高人工智能系统在不忘记先前知识的情况下学习新信息的能力,这对于长期适应至关重要。
排序理由 该集群描述了一篇详细介绍持续学习新优化器的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →