English(EN) Structural Correspondence and Universal Approximation in Diagonal plus Low-Rank Neural Networks

新的DLoR框架证明了稀疏对角线分量的通用逼近能力

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-08 04:00

研究人员引入了一个新的框架，称为结构对应，用于使用参数高效的低秩结构的神经网络。该框架证明，用最小的稀疏对角线分量增强低秩层，形成对角线加低秩（DLoR）结构，足以实现通用逼近。该研究证明DLoR组件可以重构任何全秩变换，并恢复通用激活函数的通用逼近定理，挑战了密集矩阵对于通用表达能力的必要性。 AI

影响引入了一个理论框架，可能导致更参数高效的神经网络架构。

排序理由这是一篇发表在arXiv上的理论计算机科学论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Ying Chen, Aoxi Li, Jihun Kim, Javad Lavaei · 2026-05-08 04:00

Structural Correspondence and Universal Approximation in Diagonal plus Low-Rank Neural Networks

arXiv:2605.05659v1 Announce Type: new Abstract: The massive computational costs of scaling modern deep learning architectures have driven the widespread use of parameter-efficient low-rank structures, such as LoRA and low-rank factorization. However, theoretical guarantees for th…

报道来源 [1]

Structural Correspondence and Universal Approximation in Diagonal plus Low-Rank Neural Networks

相关实体

相关话题