Mariano Rivera

新的CoLoRA方法为CNN提供高效微调

研究人员推出了一种新颖的、参数高效的微调方法CoLoRA，该方法专为卷积神经网络（CNN）设计。该技术通过将卷积核更新分解为轻量级的深度卷积和逐点卷积组件，将LoRA的原理扩展到了卷积层。与完全微调相比，CoLoRA显著减少了可训练参数数量（超过80%），同时保持了原始模型大小和推理复杂度。在OCTMNISTv2等医学成像数据集上，使用VGG16和ResNet50等模型进行的实验表明，CoLoRA在分类性能上具有竞争力。