kernel regime

新的 L2 正则化方法增强了线性网络的持续学习能力

研究人员开发了一种在高维统计环境下持续学习的新方法，重点关注具有线性预测器的逻辑回归。他们的工作扩展了现有的 L2 正则化理论，该理论通常仅限于神经网络的核方法范畴。该研究提出了一种加权 L2 正则化变体，旨在保留深度模型中有益的稀疏性偏差，而这种偏差在标准的持续学习设置中通常会丢失。与传统的 L1 或 L2 正则化相比，这种新方法在中等任务周期内，对于稀疏教师模型展现出更快的收敛速度。