研究人员已经为使用双曲正切(tanh)激活函数的宽随机神经网络的混合输入导数建立了高概率界限。这项研究侧重于具有Xavier初始化的网络,表明通过分离特定项和控制切线方向,可以显著改善足够宽的高斯网络的导数界限。这项工作将导数估计与拟蒙特卡洛积分联系起来,暗示了在QMC训练分析中的潜在应用。 AI
影响 为理解神经网络行为和改进训练方法提供了理论基础。
排序理由 学术论文,详细介绍了神经网络导数方面的理论进展。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- cs.LG
- DagsHub
- Euclidean
- Gaussian function
- Gotit.pub
- Hugging Face
- hyperbolic tangent
- IArxiv
- ScienceCast
- Xavier initialization
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →