新研究对单神经元AI模型的傅里叶对齐提出挑战

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-05 04:56

研究人员提出了一个单神经元模加傅里叶对齐假说的反例，展示了一种ReLU神经元可能随时间失活的场景。这种失效模式在高斯初始化下以正概率发生，并且可以扩展到各种Clarke轨迹和ReLU的近似。研究结果表明，在模加任务上训练单个神经元时，单频率对齐并非普遍结果。 AI

影响挑战了关于训练期间神经元行为的假设，可能影响未来的神经网络架构。

排序理由该集群包含一篇在arXiv上发表的同行评审学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.NE (Neural & Evolutionary) TIER_1 English(EN) · Gautam Neelakantan Memana · 2026-08-05 04:56

单神经元模加的傅里叶对齐反例

We give a negative solution to MAIS-O60. We first construct an example in which an initially active ReLU neuron becomes completely inactive in finite time and thereafter remains frozen at a limit whose Fourier energy is equally distributed among all nonzero real frequency classes…