CONEC-LoRA

新的CONEC-LoRA方法改进了领域增量学习

一篇新研究论文介绍了一种名为CONEC-LoRA的新型领域增量学习（DIL）方法，旨在防止AI模型发生灾难性遗忘。CONEC-LoRA使用任务共享LoRA来巩固跨任务的共享知识，并结合特定任务的LoRA来整合领域特定知识。该方法还采用了一个随机分类器以提高准确性，并使用一个辅助网络在推理时预测最优LoRA，在基准问题上的表现比先前方法提高了5%以上。