PulseAugur
实时 10:52:02

新方法通过稳定的矩阵对数归一化改进深度学习

研究人员开发了一种新颖的全局协方差池化(GCP)中矩阵对数归一化方法,用于深度学习模型。这种新方法使用正交多项式近似,特别是8次Chebyshev展开,来绕过矩阵对数通常需要的数值不稳定的特征值分解。该方法包括均值特征值预归一化和闭式后补偿,这使得梯度有界并避免了问题项。在包括ImageNet-1k在内的基准测试实验表明,这种无分解对数比现有的谱对数和平方根近似更快、更准确。 AI

影响 这项研究为深度学习中的特征归一化提供了一种更稳定、更准确的方法,有望提高细粒度识别任务的性能。

排序理由 学术论文,详细介绍了深度学习中矩阵归一化的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新方法通过稳定的矩阵对数归一化改进深度学习

报道来源 [1]

  1. arXiv cs.CV TIER_1 English(EN) · Md Rifat Ur Rahman, Md Raihan Khan, Md Sakib Hossain Shovon, Pietro Li\`o, Mohammad Ali Moni ·

    全局协方差池化中矩阵对数归一化的正交多项式逼近

    arXiv:2608.19021v1 Announce Type: new Abstract: Global Covariance Pooling (GCP) improves deep networks by capturing second-order feature statistics, and is especially effective for fine-grained recognition. Because covariance matrices live on the Symmetric Positive Definite (SPD)…