PulseAugur
实时 15:36:24
English(EN) Expressivity of Shallow Neural Networks Over Finite Fields

新研究探讨有限域上浅层神经网络

研究人员利用有限域上的单项激活函数,探索了浅层多项式神经网络(PNNs)的表达能力。他们将给定架构的“神经流形”定义为从网络权重到乘积多项式环的映射的像,并通过神经流形的基数来量化表达能力。这项工作与有限域上的有理点计数以及Weil 猜想相关,揭示了零特征域和有限特征域的神经流形之间存在显著差异,突显了域特征的重要性。 AI

影响 这项研究有助于加深对神经网络表达能力的理论理解,可能影响未来的模型设计和分析。

排序理由 学术论文发布在 arXiv 上,详细介绍了神经网络的理论研究。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.NE (Neural & Evolutionary) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新研究探讨有限域上浅层神经网络

报道来源 [1]

  1. arXiv cs.NE (Neural & Evolutionary) TIER_1 English(EN) · Yifei Chen ·

    有限域上浅层神经网络的表达能力

    We study the expressivity of shallow polynomial neural networks (PNNs) with monomial activation functions over finite fields. For a given architecture, we define a neuromanifold as the image of the map from all possible network weights into the product of polynomial rings. We qua…