实体
Mish
Mish
PulseAugur coverage of Mish — every cluster mentioning Mish across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
论文分析浮点神经网络的表达能力
研究人员发表了一篇论文,探讨了使用浮点算术运算的神经网络的表达能力,超越了假设精确实数的理论模型。该研究引入了一个框架来分析任意归约顺序和不精确激活实现如何影响网络的函数表示能力。这项工作确立了浮点神经网络能够实现通用表示的条件,将先前的发现扩展到更广泛的实际激活函数。
-
神经网络实现超快收敛,并用浮点运算表示复杂函数
两篇新的arXiv论文探讨了神经网络收敛和表示能力的理论方面。第一篇论文证明,在特定条件下,包括硬间隔场景,神经网络分类器可以为各种激活函数实现超快收敛速率。第二篇论文研究了浮点网络的表示能力,表明它们可以使用自动微分来近似函数值和梯度,即使在实际的激活函数和有限精度算术下也是如此。