实体
e3nn
e3nn
PulseAugur coverage of e3nn — every cluster mentioning e3nn across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究解释了优化器为何在等变网络上表现不佳
研究人员确定了某些优化器（如 Muon）在训练等变神经网络时优于 Adam 的一个关键原因。问题源于 Adam 在等变线性层的不同块之间处理学习率的方式。具体来说，Adam 会单独重新缩放权重，而不考虑这些块的边界，从而导致步长不一致。提出的解决方案包括单独对每个块的更新进行归一化，并结合调整后的动量系数，这使得 Adam 在各种数据集上能够与 Muon 相媲美。
-
几何代数层在深度 3D 学习中展现优势
一项新近发表在 arXiv 上的研究，调查了神经网络中几何代数层在学习 3D 向量定律方面的有效性。该研究使用多层感知机 (MLP) 将 Clifford 代数 Cl(3,0) 原始元与更简单的标量化基线进行了比较。对于简单、单阶段的定律，标量化方法被证明更有效率和更有效。然而，对于复杂、嵌套的群操作，几何代数层显著优于基线，在达到可比结果时所需数据量减少了一个数量级。