研究人员开发了Latent-MoE,一种新颖的域感知专家混合(Mixture-of-Experts)架构,旨在提高物理信息神经网络(PINNs)在具有复杂、多状态物理学的偏微分方程(PDEs)上的性能。标准的PINNs在处理这类问题时会遇到困难,因为其神经切线核(NTK)存在问题,这可能导致训练过程中出现长距离耦合和梯度冲突。Latent-MoE通过在共享骨干网络中插入域感知的MoE模块来解决这个问题,从而实现局部学习,同时允许容量跨不同区域流动。该方法在具有多阶段时变物理学的基准测试中显著优于现有方法,将梯度冲突减少了90%以上,并将预测精度提高了十倍以上。 AI
影响 这种新架构可以显著提高用于科学模拟和工程的AI模型的准确性和效率。
排序理由 该集群包含一篇详细介绍物理信息神经网络新架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- FB-PINNs
- Latent-MoE
- neural tangent kernel
- partial differential equations
- physics-informed neural networks
- X-PINNs
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →