Fourier-feature MLPs

神经网络架构影响隐式表示中的迁移特异性

研究人员调查了不同的神经网络架构如何影响隐式神经表示中知识迁移的特异性。他们的研究在包括Navier-Stokes方程和一维偏微分方程在内的各种基准测试中比较了SIREN、ReLU MLP和傅里叶特征MLP。研究结果表明，虽然SIREN通常表现出广泛的权重重用，但ReLU和傅里叶特征网络在迁移学习到的结构方面可能更具选择性，这表明架构选择对于有效的科学机器学习至关重要。