PulseAugur
中
实时 09:58:43
实体 He-normal initialization

He-normal initialization

PulseAugur coverage of He-normal initialization — every cluster mentioning He-normal initialization across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_303637 ·

    新标准优化深度神经网络的权重初始化

    研究人员开发了一个新的数学标准,用于选择深度神经网络(DNN)中权重初始化的最优方差。通过分析随机梯度下降(SGD)在连续时间 Fokker-Planck 方程中的行为,他们通过 Kullback-Leibler 散度建立了初始分布与期望成本函数之间的联系。该方法提供了一种具体的、非启发式的方法来确定初始化尺度,与传统的 He-normal 初始化相比,在 MNIST 和 Fashion-MNIST 数据集上的验证结果显示,该方法能带…