PulseAugur
实时 17:52:01

新研究探讨权重空间神经网络的表达能力

两篇新研究论文探讨了置换等变网络(permutation-equivariant networks)的理论基础,这种设计对于直接操作其他神经网络参数的模型至关重要。第一篇论文为权重空间网络的表达能力建立了全面的理论,在特定条件下证明了其通用性并展示了实际改进。第二篇论文在数学上解释了训练过程中神经网络权重中等变结构的出现,将端到端等变性与层级等变性联系起来。 AI

影响 这些理论进展可能为涉及预训练模型的任务带来更高效、更强大的神经网络设计。

排序理由 该集群包含两篇在arXiv上发表的学术论文,讨论了神经网络架构的理论方面。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Adir Dayan, Yam Eitan, Haggai Maron ·

    On the Expressive Power of Permutation-Equivariant Weight-Space Networks

    arXiv:2602.01083v2 Announce Type: replace Abstract: Weight-space learning studies neural architectures that operate directly on the parameters of other neural networks. Motivated by the growing availability of pretrained models, recent work has demonstrated the effectiveness of w…

  2. arXiv cs.LG TIER_1 English(EN) · Vahid Shahverdi, Giovanni Luca Marchetti, Georg B\"okman, Kathl\'en Kohn ·

    Identifiable Equivariant Networks are Layerwise Equivariant

    arXiv:2601.21645v2 Announce Type: replace Abstract: We investigate the relation between end-to-end equivariance and layerwise equivariance in deep neural networks. We prove the following: For a network whose end-to-end function is equivariant with respect to group actions on the …