研究人员开发了一个理论框架来解决持续学习系统中的机器遗忘挑战。这个新的目标函数量化了保留过去知识与有效遗忘特定数据之间的权衡。该研究分析了基于梯度和基于Hessian的遗忘方法,发现基于梯度的方法存储开销最小,而基于Hessian的方法在最小化遗忘损失方面更有效。这促成了一个提出的混合策略,以平衡性能和存储成本,实验结果支持了理论发现。 AI
影响 为持续学习AI系统的隐私保护更新提供了理论基础。
排序理由 学术论文发布在arXiv上,详细介绍了机器学习的理论进展。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- continual learning
- Gradient-based auto-tuning for machine learning and deep learning models
- Hessian-based norm regularization for image restoration with biomedical applications
- machine unlearning
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →