神经偏微分方程算子中发现新的“错误物理后门”

研究人员发现神经偏微分方程（PDE）算子中存在一种新的漏洞，称为“错误物理后门”。这种攻击利用可重用的求解器存档，通过微妙地改变输入来触发在物理上看似合理但对于预期的物理参数而言不正确的输出来进行攻击。该方法已在各种 PDE 情况和模型架构（如傅立叶神经算子和 DeepONet）中得到验证，在保持低预测误差的同时实现了高成功率。这凸显了一个关键的验证差距，因为在未验证所用物理参数的出处的情况下，通用的类求解器行为是不够的。 AI

影响 暴露了用于科学模拟的 AI 模型中存在的关键验证差距，可能影响关键应用的可靠性。

排序理由 学术论文，详细介绍了特定类型 AI 模型中的新安全漏洞。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• DeepONet
• Fourier Neural Operators
• LSTM
• Neural PDE operators
• Transformer
• wrong-physics backdoors

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →