PulseAugur
实时 09:04:02
English(EN) Characterizing the Discrete Geometry of ReLU Networks

新的理论发现表征了ReLU网络的几何结构

研究人员在ReLU网络的离散几何方面取得了新的理论发现,重点关注其连通性图。这些图将节点表示为线性区域,将边连接共享面的区域,其平均度上限为输入维度的两倍,与网络深度或宽度无关。此外,即使区域数量呈指数增长,图的直径也具有独立于输入维度的上限。这些理论结果已通过在合成和真实世界数据上训练的网络进行的实验得到验证。 AI

影响 提供了对神经网络结构的更深层次的理论理解,可能有助于可解释性和优化。

排序理由 关于ReLU网络几何的理论结果的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Blake B. Gaines, Jinbo Bi ·

    ReLU网络离散几何特征分析

    arXiv:2606.07728v1 Announce Type: new Abstract: It is well established that ReLU networks define continuous piecewise-linear functions, and that their linear regions are polyhedra in the input space. These regions form a complex that fully partitions the input space. The way thes…