实体
neural network training
neural network training
PulseAugur coverage of neural network training — every cluster mentioning neural network training across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
古代《易经》序列未能改善神经网络训练
一篇新论文探讨了周文王序列(《易经》卦象的一种古代排序方式)的统计特性,以期改善神经网络训练。研究人员发现该序列具有独特的统计特征,如高转移距离和负自相关,这些特征表面上与课程学习的原理相似。然而,在不同硬件平台和训练方法上的实验表明,应用周文王序列要么降低了性能,要么没有显著影响,这表明其独特的方差会破坏基于梯度的优化。
-
新理论界定了耦合梯度下降中的瞬态放大
研究人员开发了一种新的伪谱理论来分析耦合梯度下降中的瞬态放大,这是一种用于双层优化和对抗性训练的方法。该理论为块三角雅可比行列式提供了精确的界限,揭示了一种先前被谱半径分析所掩盖的非渐近学习动力学状态。在包括神经网络训练在内的各种问题上的实验证实了该理论的有效性。
-
新的NAPTS方法将神经网络训练时间缩短了30%
研究人员开发了一种名为非单调预条件信任域策略(NAPTS)的新优化方法,专门用于训练深度神经网络。该方法通过使用域分解和全局信任域机制来增强并行训练。据报道,与APTS等先前方法相比,NAPTS将训练时间缩短了30%,并显著减少了被拒绝的步骤。