一篇新论文探讨了在物理信息神经网络(PINNs)中使用有限差分(FD)方法计算导数,并将其作为自动微分(AD)的一种替代方案。研究表明,当经过适当校准时,FD方法在各种批次大小下可以与AD在准确性上相媲美,同时速度更快、内存效率更高。该论文还指出了标准PyTorch自动微分在某些神经网络架构中可能存在的潜在不准确性,并建议FD作为在相关尺度下逐样本导数的一种更可行的近似方法。 AI
影响 这项研究可能导致物理信息神经网络更高效、更准确的训练,从而影响科学机器学习应用。
排序理由 该集群包含一篇详细介绍神经网络导数计算新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- automatic differentiation
- batch normalization
- Finite differences for the convection-diffusion equation
- Maciej J. Mikulski
- physics-informed neural networks
- PyTorch
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →