Neural Operators
PulseAugur coverage of Neural Operators — every cluster mentioning Neural Operators across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
神经算子无法可靠地为PDE的牛顿求解器进行热启动
研究人员发现,在使用神经算子为非线性偏微分方程(PDE)的牛顿求解器进行热启动时存在一个关键缺陷。虽然神经算子可以降低测试误差,但它们仍可能产生离散雅可比矩阵不定的初始状态,导致求解器失败。这个问题之所以出现,是因为算子可能会将物理属性(例如超弹性问题中的体积变化)分散到远离其正确值的位置。为了纠正这种谱问题,研究人员提出了一种新颖的微调阶段,该阶段通过对算子施加离散能量惩罚,而无需额外的求解数据,从而在先前方法失败的加载范围内实现了…
-
新的MiNO方法学习偏微分方程传播子,以改进科学机器学习
研究人员开发了MiNO,一种通过关注传播子而非解场或映射来学习偏微分方程(PDE)的新方法。该方法利用eikonal方程来处理相位,利用输运方程来处理幅度,通过振荡积分来重构解。与传统的物理信息神经网络和监督傅里叶神经网络算子相比,MiNO在涉及不连续对流的基准测试中表现出更高的准确性和效率,并且无需重新训练即可泛化到未见的初始条件。
-
新方法增强了神经算子在测试时的泛化能力
研究人员开发了一种新颖的方法来提高神经算子(用于学习偏微分方程(PDE)解)的测试时泛化能力。所提出的策略涉及在测试时拆分和组合现有的神经算子,使其能够在不重新训练的情况下处理未见的物理学和参数外推。该方法在具有挑战性的分布外任务上实现了最先进的零样本泛化结果,展示了测试时计算在创建更灵活和可组合的神经算子方面的潜力。
-
新的神经算子架构应对复杂的 PDE 预测 · 已追踪 4 个来源
四篇新研究论文介绍了用于求解偏微分方程 (PDE) 的新型神经算子架构。GeoIncNO 专注于面向几何的增量预测,以实现长时程稳定性,而 RECAST 提供了一个用于校正和超分辨率粗网格 PDE 求解器的框架。Kuramoto 神经算子 (KNO) 利用耦合振子动力学,而 MoNo 则利用多尺度最优传输在通用几何上构建稳定的潜在空间。这些方法旨在提高 PDE 模拟在各种科学和工程领域的准确性、稳定性和计算效率。
-
新理论量化了神经算子在索伯列夫空间中的近似能力
研究人员开发了一个新的理论框架,用于理解神经算子在索伯列夫空间内的近似能力。该框架建立了模型复杂度和误差之间的明确关系,表明具有 \(\\mathcal{O}(\\varepsilon^{-d/s})\\) 参数的神经算子可以在 \(H^t\) 范数下均匀近似一个连续非线性算子。使用傅里叶神经算子在Burgers方程上的经验验证显示,测试误差低至 \(10^{-7}\),相对误差约为 \(10^{-3}\),性能大致按 \(N^{-\…
-
新型凸神经网络能量单元可实现可复用的有限元分析
研究人员开发了一种新的方法,用于创建可复用的、几何参数化的神经网络单元,用于有限元分析。该方法通过确保组装后的系统即使在单元刚度奇异的情况下也保持正定性,从而解决了先前方法中的结构性故障问题。新的凸神经网络能量单元以超网络生成的二次形式实现,提供了条件误差界限,并在各种几何形状和物理问题(包括热传导和平面应变弹性)的设置时间上实现了显著的加速。
-
新的特征交互模型增强了物理信息神经网络
研究人员开发了新的方法来增强物理信息神经网络(PINNs)和神经算子的表达能力。通过融入受因子分解机启发的特征交互模块,这些模型能够更好地捕捉参数化偏微分方程(PDEs)中变量间的复杂关系。提出的FM-PINN和FM-Operator模型在处理非线性守恒律以及具有尖锐梯度或不连续性的问题方面表现出特别的有效性,从而在挑战性方程上实现了显著的精度提升。
-
新的HERO训练方法提高了神经算子长时域的准确性
研究人员引入了HERO(History-Enriched Rollout Training,历史增强回滚训练),一种旨在提高自回归神经算子长时域准确性的新方法。该技术解决了模型递归使用自身预测时误差累积的问题,这是模拟时间相关偏微分方程时的一个常见问题。HERO通过整合源自模型优化历史的相对监督来增强标准训练,使用一组排序的候选回滚来建立更具信息量的比较基线。在九个PDE基准上的实验表明,HERO在不增加推理时间的情况下,始终提高了长…
-
算子学习框架加速干眼症分析
研究人员开发了一种新颖的算子学习框架来分析泪膜破裂,这是理解干眼症的关键因素。该方法用在模拟泪膜动力学上训练的神经算子取代了计算密集型的逆问题求解器。这种新方法有望为快速、数据驱动的泪膜行为分析提供可扩展的解决方案。
-
新研究量化了神经网络和神经算子的理论到实践的差距
研究人员分析了使用 ReLU 神经网络和神经算子进行学习的采样复杂度,并根据样本数量推导出了收敛速率的上限。这项工作在 L^p 设置下统一处理了“理论到实践的差距”,改进了现有界限,并将该概念扩展到无限维神经算子学习。研究结果适用于各种神经算子架构,包括深度神经算子网络和傅里叶神经算子,表明收敛速率受 1/p 阶的限制。
-
新的贝叶斯推理方法使用能量距离进行更快采样
研究人员开发了一种新的摊销贝叶斯推理方法,特别适用于非线性逆问题。该技术学习一个可重用的映射,可以为新的观测值快速生成后验样本,从而绕过单独解决每个推理问题的计算密集型过程。该方法利用能量距离目标,无需似然评估或可逆传输映射,使其适用于高维和无限维设置。该方法在有限维问题和基于 PDE 的逆问题上得到了验证,显示了其捕捉多模态和主导后验模式以实现快速采样的能力。
-
新的LiNO算子提升了多分辨率神经网络的能力
研究人员推出了一种新颖的多分辨率算子——提升神经网络算子(LiNO),旨在增强从数据中学习微分方程解的能力。LiNO利用小波提升方案跨不同尺度自适应地分解和处理信息,从而能够同时捕捉全局动力学和精细尺度结构。这种方法实现了尺度感知建模,并在包括流体动力学和反应扩散系统在内的各种挑战性基准测试中,展现出优于现有神经网络算子的性能。
-
新方法增强了神经算子的鲁棒性和泛化能力
研究人员提出了一种新颖的方法来增强神经算子的鲁棒性和泛化能力。神经算子被用作偏微分方程(PDE)问题的数值求解器的快速替代。这种新方法被称为求解器集成对抗训练,它同时考虑了扰动对学习到的算子和底层数值求解器的影响。该方法区分了泛化和鲁棒性指标,并表明与仅考虑算子的方法相比,与求解器更深入的集成可以带来更有效的对抗性攻击、更好的样本选择和更高效的训练。
-
OperatorSHAP 为神经算子提供快速、准确的 Shapley 值估计
研究人员开发了 OperatorSHAP,一种用于估计神经算子中 Shapley 值的新颖方法。该方法解决了现有可解释性技术(如 FastSHAP)的计算成本和输入限制问题,特别适用于涉及不规则数据网格的应用。OperatorSHAP 提供了一种与网格无关的归因方法和一种与 Aumann-Shapley 值相关联的训练程序,在不同分辨率和网格大小下,无需重新训练即可与离散 Shapley 值保持一致。
-
新框架使神经算子能够从部分数据中学习
研究人员引入了神经算子过程(NOPs),这是一个结合了神经过程和神经算子的框架,用于从有限或部分观测中预测完整的输出场。该方法专为数据稀疏、不规则或不完整且需要考虑不确定性的科学问题而设计。NOPs 利用共享的编码器-解码器架构,并在函数回归和偏微分方程(PDE)基准测试中展示了可行性,在某些情况下可媲美密集网格的行为。
-
PhysGuard框架改进神经算子从仿真到现实的适配
研究人员开发了PhysGuard,一个旨在改进神经算子从仿真到现实适配的新框架。该方法利用仿真数据中的Fisher信息矩阵,在微调过程中识别并保护物理关键参数方向。PhysGuard旨在防止在标准微调过程中可能发生的、尤其是在显著的领域偏移下,基本物理表示的退化。实验表明,与传统的微调方法相比,PhysGuard可将低频误差最多降低32%,同时保持了适应性。
-
新型自适应内存门增强神经算子性能
研究人员开发了一种用于神经算子(AMGFNO)的自适应内存门,以提高其在求解时间相关偏微分方程(PDE)方面的性能。现有的增强内存神经算子使用固定的内存权重,这限制了它们在分辨率或物理参数等不同观测条件下的适应性。AMGFNO引入了一个可学习的门控机制,可以动态调整内存权重,在Kuramoto-Sivashinsky和Burgers方程上,尤其是在低分辨率下,显著降低了归一化均方根误差(nRMSE)。
-
新框架增强了气动仿真中的神经算子
研究人员开发了一个名为GeoABC的新框架,以提高神经算子在气动仿真中的准确性。该方法显式地模拟了边界附近流动的各向异性性质,其中流动行为沿壁面与垂直于壁面的行为不同。通过将边界几何作为方向先验,GeoABC增强了预测能力,并显著减少了误差,使得神经算子更适用于高保真气动仿真。
-
一致性预测为物理模拟提供新的不确定性保证
研究人员将分裂一致性预测(split conformal prediction)创新性地应用于基于神经算子(neural operator)的物理模拟,提供了具有正式覆盖保证的无分布预测区间。该方法应用于稳态热传导基准测试,在 0.1 的 alpha 水平下实现了 89.1% 的经验覆盖率。该方法还提供了不确定性分解,区分了认知不确定性(epistemic uncertainty)和随机不确定性(aleatoric uncertain…
-
神经算子混合模型提升算子学习效率
研究人员开发了一种名为神经算子混合模型(MoNOs)的新方法,以提高算子学习系统的效率。该方法将输入函数路由到特定的“专家”神经算子,从而降低每次查询的计算复杂度。研究表明,与传统的单一算子结构相比,MoNOs可以用更小的活跃专家规模来近似算子,并具有近似精度的理论保证。