研究人员开发了一种新颖的全局协方差池化(GCP)中矩阵对数归一化方法,用于深度学习模型。这种新方法使用正交多项式近似,特别是8次Chebyshev展开,来绕过矩阵对数通常需要的数值不稳定的特征值分解。该方法包括均值特征值预归一化和闭式后补偿,这使得梯度有界并避免了问题项。在包括ImageNet-1k在内的基准测试实验表明,这种无分解对数比现有的谱对数和平方根近似更快、更准确。 AI
影响 这项研究为深度学习中的特征归一化提供了一种更稳定、更准确的方法,有望提高细粒度识别任务的性能。
排序理由 学术论文,详细介绍了深度学习中矩阵归一化的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →