实体
Benedikt Brantner
Benedikt Brantner
PulseAugur coverage of Benedikt Brantner — every cluster mentioning Benedikt Brantner across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的 Adam 优化器泛化到流形以进行 Transformer 训练
研究人员开发了一种新颖的方法，将 Adam 优化器泛化到各种数学流形，这对于优化神经网络至关重要。这篇 arXiv 论文详细介绍了这种新方法，它利用齐性空间的结构来创建全局切空间表示，从而无需投影即可扩展 Adam 的步长。这种泛化优化器已成功应用于训练 Transformer 和辛自动编码器，通过高精度地强制执行正交性约束，展示了优于现有方法的性能。
-
新型神经网络可处理复杂的确定性及分段光滑动力学系统
研究人员开发了用于学习复杂动力学系统的新型神经网络架构。一种方法侧重于确定性和随机强迫哈密顿系统，引入了广义强迫哈密顿神经网络（GFHNNs），可提供更长的长期稳定性和准确性。另一种方法通过结合超平面检测和几何约束神经网络来处理分段光滑动力学系统，这类系统在气候动力学和具有摩擦的机械系统等领域具有相关性。