研究人员开发了SPEAR，这是一种新颖的混合专家（MoE）神经算子，专为偏微分方程（PDE）的大规模预训练而设计。SPEAR将潜在特征解耦为低频和高频分量，以更好地模拟共享的可迁移动力学和专门的PDE模式。为了对抗MoE架构中的专家冗余，该系统采用了一种知识引导的聚合策略，该策略根据数据集特定的知识和路由偏好来识别和合并相似的专家。实验表明，SPEAR在十二个PDE数据集的预训练、微调和迁移学习方面取得了卓越的性能，同时在不牺牲预测精度的情况下将专家数量减少了50%。 AI
影响 引入了一种新的科学机器学习架构，提高了对复杂物理系统建模的效率和泛化能力。
排序理由 该集群描述了一篇详细介绍特定科学领域新颖神经算子架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
