研究人员为内部宽度为一的残差神经网络(ResNets)的通用逼近能力建立了新的理论界限。该研究表明,对于紧凑域上的 $L^p$ 逼近,所需的最小块宽度为 $\max\{d_x, d_y\}$,其中 $d_x$ 和 $d_y$ 分别是输入和输出维度。此外,该论文证明了块宽度小于 $\max\{d_x, d_y\}$ 的 ResNets 无法实现通用逼近,无论其内部宽度如何。 AI
影响 确立了残差神经网络表达能力的理论极限,为未来的架构设计提供了信息。
排序理由 该集群包含一篇在 arXiv 上发表的研究论文,详细介绍了关于神经网络逼近特性的理论发现。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →