本文严格研究了深度神经网络（DNN）中的频率原理（F-Principle），该原理描述了DNN在训练过程中从低频到高频学习目标函数的趋势。作者提供了表征F-Principle在初始、中间和最终训练阶段的定理。这些结果具有普遍性，适用于各种网络架构、数据分布和损失函数，从而为理解DNN训练过程奠定了理论基础。 AI
排序理由 学术论文发表在arXiv上，详细介绍了对深度神经网络中一种现象的理论研究。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
arXiv:1906.09235v3 Announce Type: replace-cross Abstract: Along with fruitful applications of Deep Neural Networks (DNNs) to realistic problems, recently, some empirical studies of DNNs reported a universal phenomenon of Frequency Principle (F-Principle): a DNN tends to learn a t…