研究人员引入了新的激活函数,即基本通用激活函数 (EUAF) 和可微通用激活函数 (DUAF),旨在使固定大小的神经网络能够实现任意精度的 Sobolev 近似。该研究表明,使用这些新型激活函数的网络可以在 $W^{s-1, ext{inf}}$-范数下以任意精度近似 $W^{s, ext{inf}}((a,b)^d)$ 中的函数。文章提供了网络宽度和深度的显式界限,并探讨了 DUAF 的 S 型变体。 AI
影响 引入了新型激活函数,有望增强固定大小神经网络的近似能力。
排序理由 该集群包含一篇详细介绍神经网络激活函数新理论贡献的学术论文。
- alphaXiv
- CatalyzeX Code Finder for Papers
- DagsHub
- Differentiable Universal Activation Functions
- Elementary Universal Activation Function
- Gotit.pub
- Hugging Face
- ScienceCast
- Sobolev
- arXiv
- DUAF_inf
- Neural Networks
- tilde{DUAF_n
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →