LoRA-Expert

新的类增量学习方法解决遗忘和效率问题 · 追踪 7 个来源

arXiv 上发表的多篇研究论文提出了类增量学习（CIL）的新方法，这是一种允许 AI 模型随着时间推移学习新类别而不会忘记先前获得的知识的技术。这些方法侧重于提高效率和减少灾难性遗忘，这是 CIL 中的一个常见挑战。方法包括使用任务自适应 LoRA（低秩自适应）模块、集成知识迁移、用于原型路由的双曲几何以及神经网络层的动态宽度扩展。一些论文还探讨了联邦学习场景，并将模型适应不断变化的类别和领域分布。