PulseAugur
中
实时 09:01:53

神经网络对称性读出依赖于位置编码

作者 PulseAugur 编辑部 · [1 个来源] ·

一篇新论文探讨了神经网络权重内的对称性如何受到位置编码（PE）和用于分析的特定读出方法的影响。研究人员发现，即使底层函数具有某些对称性，PE 也可以隐藏或揭示它们。这种依赖性通过在 2D 有符号距离函数上训练的 MLP 得到证明，其中不同的 PE，如 DyadicAxisPE 和 TriAxisPE，在检测 D4 和 D3 旋转等对称性方面表现出不同的模式。 AI

影响 这项研究提供了对神经网络架构和分析方法如何相互作用的更深入理解，可能指导未来的模型设计和可解释性技术。

排序理由 该集群包含一篇详细介绍神经网络分析新理论发现的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

神经网络对称性读出依赖于位置编码

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Naoya Chiba, Satoshi Sugiyama, Yuki Uranishi ·

    Observable- and Positional-Encoding-Dependent Symmetry Readout from Neural Network Weights

    arXiv:2607.03108v1 Announce Type: new Abstract: Post-hoc analysis of trained neural network weights often seeks to recover geometric structure directly from the parameters. We show that, for positional-encoding-equipped neural fields, the symmetry visible from weights is not the …

相关实体

相关话题