实体
Gaussian error linear unit
Gaussian error linear unit
PulseAugur coverage of Gaussian error linear unit — every cluster mentioning Gaussian error linear unit across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新分析统一了深度神经网络的梯度下降收敛性
研究人员开发了一种统一的收敛性分析方法，适用于训练深度神经网络的各种梯度下降优化方法。这种新分析适用于广泛的优化器，包括 Adam、Momentum 和 RMSprop，当与 Softplus 和 GeLU 等解析激活函数一起使用时。该研究利用 Kurdyka-Łojasiewicz 不等式证明了收敛到临界点，为理解 AI 优化算法，特别是 Adam 优化器，做出了新的贡献。
-
提出 GELU 及其他激活函数的新解释
研究人员提出了一种对 GELU、ReLU 和 Swish 等激活函数的新结构化解释。这种解释将 GELU 视为源自高斯互补一阶损失函数的一个信号传输项。该框架可推广到包括 ReLU、GELU、SiLU/Swish 和 hard swish 在内的一系列阈值传输激活。在视觉和语言模型上的实验表明，校准的均匀阈值门性能可与现有激活函数相媲美或更优。