Global Covariance Pooling

新方法通过稳定的矩阵对数归一化改进深度学习

研究人员开发了一种新颖的全局协方差池化（GCP）中矩阵对数归一化方法，用于深度学习模型。这种新方法使用正交多项式近似，特别是8次Chebyshev展开，来绕过矩阵对数通常需要的数值不稳定的特征值分解。该方法包括均值特征值预归一化和闭式后补偿，这使得梯度有界并避免了问题项。在包括ImageNet-1k在内的基准测试实验表明，这种无分解对数比现有的谱对数和平方根近似更快、更准确。