实体 MAIS-O60

MAIS-O60

PulseAugur coverage of MAIS-O60 — every cluster mentioning MAIS-O60 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_191635 · Aug 5 · 04:56

新的反例挑战了单神经元AI训练中的傅里叶对齐

研究人员提出了一个单神经元模加傅里叶对齐假设的反例。该反例表明，一个ReLU神经元可能会变得不活跃，并保持在极限状态，其傅里叶能量分布在所有非零实频率上。在高斯初始化下，这种失败以正概率发生，并且对于Clarke轨迹和ReLU的光滑近似，使用固定步长梯度下降也可能发生。这一发现表明，在训练单个神经元进行模加时，单频率对齐并非必然结果。