PulseAugur
实时 08:50:30
English(EN) Minimum Block Width for Universal Approximation by Residual Neural Networks with Inner Width One

新理论定义了残差神经网络的最小块宽度

研究人员为内部宽度为一的残差神经网络(ResNets)的通用逼近能力建立了新的理论界限。该研究表明,对于紧凑域上的 $L^p$ 逼近,所需的最小块宽度为 $\max\{d_x, d_y\}$,其中 $d_x$ 和 $d_y$ 分别是输入和输出维度。此外,该论文证明了块宽度小于 $\max\{d_x, d_y\}$ 的 ResNets 无法实现通用逼近,无论其内部宽度如何。 AI

影响 确立了残差神经网络表达能力的理论极限,为未来的架构设计提供了信息。

排序理由 该集群包含一篇在 arXiv 上发表的研究论文,详细介绍了关于神经网络逼近特性的理论发现。

在 arXiv stat.ML 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

新理论定义了残差神经网络的最小块宽度

报道来源 [2]

  1. arXiv stat.ML TIER_1 English(EN) · Qi Zhou, Xuan Zhou, Xiao-Song Yang ·

    残差神经网络在内宽度为一时实现通用逼近的最小块宽度

    arXiv:2607.04597v1 Announce Type: cross Abstract: In this paper, we study the universal approximation property of residual neural networks, and obtain some new results. For input and output dimensions $d_x$ and $d_y$, and LeakyReLU, ReLU, ReLU-like activation functions, the upper…

  2. arXiv stat.ML TIER_1 English(EN) · Xiao-Song Yang ·

    残差神经网络内层宽度为一时通用逼近的最小块宽度

    In this paper, we study the universal approximation property of residual neural networks, and obtain some new results. For input and output dimensions $d_x$ and $d_y$, and LeakyReLU, ReLU, ReLU-like activation functions, the upper and lower bounds of the block width are establish…