DUAF_inf

新型激活函数使固定大小的神经网络能够实现任意精度

研究人员引入了新的激活函数，即基本通用激活函数 (EUAF) 和可微通用激活函数 (DUAF)，旨在使固定大小的神经网络能够实现任意精度的 Sobolev 近似。该研究表明，使用这些新型激活函数的网络可以在 $W^{s-1, ext{inf}}$-范数下以任意精度近似 $W^{s, ext{inf}}((a,b)^d)$ 中的函数。文章提供了网络宽度和深度的显式界限，并探讨了 DUAF 的 S 型变体。