Message Passing Neural Networks
PulseAugur coverage of Message Passing Neural Networks — every cluster mentioning Message Passing Neural Networks across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究探索更快的GNN和统一理论 · 跟踪2篇论文
两篇最新的arXiv论文探讨了图神经网络（GNN）的进展。第一篇论文介绍了GNN的早期退出策略，以在不显著牺牲预测质量的情况下提高推理速度，并在HeaRT基准上进行了演示。第二篇论文提出了一个更统一的GNN理论框架，认为当前谱图神经网络和消息传递图神经网络之间的划分过于局限，更广阔的视角可以加速图学习的进展。
-
新的MPNN框架MAVN动态添加虚拟节点
研究人员开发了MAVN，一种新颖的消息传递神经网络（MPNN）框架，它动态引入虚拟节点以改进基于图的学习。与以前的方法不同，MAVN允许非约束连接，并根据不断变化的节点表示自适应地确定何时何地引入虚拟节点。实验表明，MAVN显著提高了骨干MPNN的性能，在各种真实世界数据集上取得了高达46.5%的提升。
-
分子MPNN：消息构建驱动性能，而非更新复杂度
一项新的基准测试研究分析了分子消息传递神经网络（MPNN）的性能驱动因素。该研究将MPNN架构分解为三个关键算子家族：消息种子初始化、节点-边融合和节点更新。在十个MoleculeNet数据集上，研究发现消息构建，特别是初始化和融合，对性能的影响比更新复杂度更大。这项工作通过关注化学信息如何整合到消息传递管道中，为开发更有效的分子MPNN提供了设计启发。
-
ShareGNNs通过结构感知权重共享增强MPNNs
研究人员开发了ShareGNNs，一种新颖的消息传递神经网络（MPNNs）方法，增强了其捕获图结构数据中结构模式的能力。该方法将图结构直接纳入权重共享，通过用户选择的图不变式对权重进行索引。这使得在结构等价的子图之间进行系统性重用，从而对模型复杂度进行显式控制，并提高超越标准MPNNs的表达能力。实验表明，在包括子图计数在内的各种任务上持续改进，并证明了其在大规模数据集上的可扩展性。
-
S3GNN论文介绍用于长距离依赖的高效图学习
研究人员推出S$^3$GNN，这是一种新颖的方法，旨在解决消息传递神经网络（MPNN）中的信息瓶颈问题，该瓶颈阻碍了它们捕获长距离依赖关系的能力。这种新方法在不依赖于限制性理论假设的情况下缓解了信息过度压缩（oversquashing）现象。S$^3$GNN在包括知识图谱问答和流体动力学在内的各种应用中，实现了高达一个数量级的显著误差降低，并且使用了更少的参数，证明了其效率。
-
Sensoformer AI模型改进传感器数据的仿真到真实推断
研究人员开发了Sensoformer，一个新颖的集合注意力框架，旨在改进从稀疏和可变传感器数据中进行推断。通过集成物理结构化域随机化（PSDR），该模型学习域不变的物理算子，解决了仿真到真实迁移和不规则传感器几何形状的挑战。在地震源反演测试中，Sensoformer的表现优于MPNN和DeepONet等现有方法，展示了最先进的精度，并通过其注意力机制发现了最优传感器设计原理。