Scientific Machine Learning
PulseAugur coverage of Scientific Machine Learning — every cluster mentioning Scientific Machine Learning across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
生产就绪的科学机器学习:超越测试分数
科学机器学习(SML)中的“生产就绪”概念不仅仅局限于测试分数。它涵盖了模型的可复现性、可验证性、可部署性、可监控性以及最终的信任度。这一区别突显了研究成果与可靠、可操作系统之间的差距。
-
新型Transformer架构提升复杂几何形状上的算子学习能力
研究人员推出ArGEnT,一种新颖的几何编码Transformer,用于任意几何形状上的算子学习。该框架将几何编码与查询点评估解耦,实现了网格无关的场预测,并降低了对查询点分布的敏感性。ArGEnT在包括流体动力学和固体力学在内的各种基准测试中,展示了显著的准确性和泛化能力提升,通常能以比现有基于Transformer的方法更低的训练成本,将预测误差降低一个数量级。
-
新的TIDE基准数据集旨在推进三维湍流机器学习研究
研究人员推出了TIDE,这是一个旨在推进三维湍流领域科学机器学习的新基准数据集。TIDE提供了大规模的三维不可压缩湍流模拟数据集,包含八个受控轴上的15种配置和独立的集合。该基准包括五个任务、标准化基线和物理保真度指标,旨在解决现有以二维为主的研究和单次实现的二维数据集的局限性。初步结果表明,当前的机器学习模型在准确性上难以超越简单的持久性方法和谱求解器,凸显了准确捕捉三维湍流复杂动力学的重大挑战。
-
新研究概述了SGD预处理器的设计,以实现稳定性和降噪
一篇新发表在arXiv上的研究论文详细介绍了随机梯度下降(SGD)预处理器的设计标准,重点关注局部条件、噪声底和盆地稳定性。该论文推导了收敛速率和噪声底受对称正定矩阵M影响的界限。对于非凸目标,它建立了依赖于预处理器的盆地稳定性保证,这对于科学机器学习(SciML)应用尤其重要,因为在这些应用中物理保真度和数值稳定性至关重要。在诊断和SciML基准测试上的实验验证了所提出的通过选择M来改善局部条件并降低噪声的设计原则。
-
新框架将混合模型与神经符号AI连接起来
研究人员开发了一个名为Hybrid-to-NeSy (H2N)的新框架,该框架将混合机制/数据驱动模型与神经符号AI连接起来。这种方法将混合建模设计转化为神经符号接口,将机制知识视为语言,将学习模块视为信念,将约束视为逻辑。H2N框架引入了两个指标:结构违规率 (SVR),用于评估对机制结构的遵循程度;以及信念分散度 (BD),用于量化机制组件中的认知不确定性。这些指标在一个二元分类案例研究中得到了验证,结果表明较高的SVR和BD与更…
-
流体动力学中神经网络代理的无标签训练方法
研究人员开发了一种新颖的热流场预测神经网络代理训练方法,该方法基于最小化有限体积法(FVM)残差的无标签方法。该技术应用于注意力图神经网络,绕过了传统数值求解器生成的昂贵标记训练数据的需求。FVM-loss模型表现强劲,在稳态基准测试中实现了低误差率,并在瞬态情况下优于数据监督方法,同时消除了数据生成费用。
-
新的PA-SciML工作流程验证了代理SciML发现中的物理合规性
研究人员推出了一种名为物理审计的科学机器学习(PA-SciML)的新工作流程,旨在提高大型语言模型(LLM)代理发现的科学机器学习(SciML)模型的可靠性。这种优先验证的方法确保发现的代理模型不仅最小化误差指标,而且还遵守基本物理原理,如因果关系和边界条件。在计算固体力学示例中,PA-SciML成功识别了通过物理检查的模型,即使标准的仅误差基线在关键因果关系测试中失败。
-
新的零阶深度学习方法解决高维偏微分方程
研究人员开发了一种新颖的零阶深度学习方法,用于解决具有未知系数的高维偏微分方程(PDE),这是科学机器学习和连续时间强化学习中的常见挑战。这种新方法通过仅使用函数评估,绕过了高维中重复自动微分相关的instability和导数误差。该方法采用扰动的蒙特卡洛轨迹来估计导数,从而实现完全无模型的方法,为梯度和Hessian网络生成目标。统计分析证明了该方法的有效性,在加权Sobolev空间中提供了误差界限并表征了样本复杂度,数值实验显示在…
-
科学机器学习在流体动力学模拟方面取得进展
最近的一章回顾了科学机器学习(SciML)在模拟复杂流体流动和输运现象方面的进展。它强调了动态模式分解和物理信息神经网络(PINNs)等方法,这些方法为计算成本高昂的系统提供了高效的代理模型。该章还介绍了使用 PINNs 进行浊流模拟以及使用变分自编码器进行热流模拟的新贡献,展示了 SciML 在快速、准确近似和降低计算成本方面的潜力。
-
科学机器学习在流体动力学建模方面取得进展 · 跟踪到2个来源
本章探讨了科学机器学习(SciML)在模拟复杂流体流动和输运现象方面的进展。它详细介绍了奇异值分解、动态模式分解、物理信息神经网络(PINNs)和 $\beta$-变分自编码器($\beta$-VAEs)等方法,以创建高效的代理模型。该工作将这些技术与高性能计算策略相结合,包括自适应网格细化/粗化(AMR/C),以降低浊流和热对流等应用的计算成本。
-
论文将神经算子与微分方程联系起来以实现更好的泛化
一篇新论文探讨了传统微分方程模型与现代数据驱动方法(如神经算子)之间的关系。它认为许多建模策略共享一个通用结构,主要区别在于它们假设的输入-输出映射。研究表明,只有某些模型能够进行真正的机制发现和随后的泛化,从而为它们的适当应用提供了见解。
-
新的“工具化数据”概念推动科学机器学习发展
研究人员引入了一个名为“工具化数据”的新概念,用于科学机器学习,旨在克服当前数据类型的局限性。这种方法将机械模型、其不确定性和反事实直接嵌入到每个数据点中。预计这种方法将改进各个科学领域的验证、审计和代理训练,并可能影响未来用于科学推理的基础模型。
-
新方法通过自适应算子变换提升偏微分方程预训练
研究人员开发了AOT-POT,一种在多样化偏微分方程(PDE)数据集上预训练神经算子的新颖方法。该方法将复杂的解算子转换为更简单、对齐的形式,单个神经网络可以有效地对其进行建模。AOT-POT在12个PDE基准测试中取得了最先进的性能,参数增加极少,并显著降低了域内和域外PDE的误差。