Message Passing Neural Networks
PulseAugur coverage of Message Passing Neural Networks — every cluster mentioning Message Passing Neural Networks across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
差分学习提升含能材料热稳定性预测精度
研究人员开发了一种新颖的“差分学习”方法,以更准确地预测含能材料的热稳定性。该方法训练神经网络预测分子稳定性之间的相对差异,而不是绝对值,从而显著降低了对不同实验室实验变化的敏感性。该方法在对化合物按热稳定性进行排序时达到了超过85%的准确率,在同一噪声数据集上优于传统的回归技术。研究的关键见解表明,键解离焓是决定热稳定性的关键因素,为改进材料设计中的安全规程提供了实际应用。
-
新型IRGNN模型提升自动驾驶雷达目标检测能力
研究人员开发了IRGNN(不变雷达图神经网络),一种用于自动驾驶系统中雷达点云目标检测的新型网络。该网络通过将稀疏无序的雷达数据转换为具有平移和旋转不变特征的图表示,解决了数据处理的挑战。IRGNN采用增强的消息传递神经网络,以改进特征传播和上下文建模,并在RadarScenes数据集上展现出优于现有雷达方法的性能和效率。
-
PairAlign框架解决了神经网络中的过度压缩问题
研究人员推出了一种新颖的框架PairAlign,旨在解决消息传递神经网络(MPNN)中的过度压缩问题。该方法侧重于识别和加强对跨越遥远图区域分布的任务相关信息至关重要的成对通信。PairAlign量化通信需求与拓扑支持,以查明通信短缺,并利用最优传输来指导重构决策,确保有限的边预算用于结构兼容性和短缺覆盖的有效利用。在标准图基准测试上的实验表明,PairAlign通过缓解过度压缩来提高MPNN性能。
-
聚类注意力(CLATT)增强图机器学习模型
研究人员推出了一种新颖的增强图机器学习的方法——聚类注意力(CLATT)。CLATT通过将节点划分为簇并在这些簇内进行注意力计算,解决了消息传递神经网络和图变换器中的局限性。该方法旨在提供大的感受野,同时保留关键的图结构归纳偏置。实验表明,通过在现有模型中加入CLATT,在包括GraphLand基准数据集在内的各种图数据集上的性能得到了显著提升。
-
新研究探索更快的GNN和统一理论 · 跟踪2篇论文
两篇最新的arXiv论文探讨了图神经网络(GNN)的进展。第一篇论文介绍了GNN的早期退出策略,以在不显著牺牲预测质量的情况下提高推理速度,并在HeaRT基准上进行了演示。第二篇论文提出了一个更统一的GNN理论框架,认为当前谱图神经网络和消息传递图神经网络之间的划分过于局限,更广阔的视角可以加速图学习的进展。
-
新的MPNN框架MAVN动态添加虚拟节点
研究人员开发了MAVN,一种新颖的消息传递神经网络(MPNN)框架,它动态引入虚拟节点以改进基于图的学习。与以前的方法不同,MAVN允许非约束连接,并根据不断变化的节点表示自适应地确定何时何地引入虚拟节点。实验表明,MAVN显著提高了骨干MPNN的性能,在各种真实世界数据集上取得了高达46.5%的提升。
-
分子MPNN:消息构建驱动性能,而非更新复杂度
一项新的基准测试研究分析了分子消息传递神经网络(MPNN)的性能驱动因素。该研究将MPNN架构分解为三个关键算子家族:消息种子初始化、节点-边融合和节点更新。在十个MoleculeNet数据集上,研究发现消息构建,特别是初始化和融合,对性能的影响比更新复杂度更大。这项工作通过关注化学信息如何整合到消息传递管道中,为开发更有效的分子MPNN提供了设计启发。
-
ShareGNNs通过结构感知权重共享增强MPNNs
研究人员开发了ShareGNNs,一种新颖的消息传递神经网络(MPNNs)方法,增强了其捕获图结构数据中结构模式的能力。该方法将图结构直接纳入权重共享,通过用户选择的图不变式对权重进行索引。这使得在结构等价的子图之间进行系统性重用,从而对模型复杂度进行显式控制,并提高超越标准MPNNs的表达能力。实验表明,在包括子图计数在内的各种任务上持续改进,并证明了其在大规模数据集上的可扩展性。
-
S3GNN论文介绍用于长距离依赖的高效图学习
研究人员推出S$^3$GNN,这是一种新颖的方法,旨在解决消息传递神经网络(MPNN)中的信息瓶颈问题,该瓶颈阻碍了它们捕获长距离依赖关系的能力。这种新方法在不依赖于限制性理论假设的情况下缓解了信息过度压缩(oversquashing)现象。S$^3$GNN在包括知识图谱问答和流体动力学在内的各种应用中,实现了高达一个数量级的显著误差降低,并且使用了更少的参数,证明了其效率。
-
Sensoformer AI模型改进传感器数据的仿真到真实推断
研究人员开发了Sensoformer,一个新颖的集合注意力框架,旨在改进从稀疏和可变传感器数据中进行推断。通过集成物理结构化域随机化(PSDR),该模型学习域不变的物理算子,解决了仿真到真实迁移和不规则传感器几何形状的挑战。在地震源反演测试中,Sensoformer的表现优于MPNN和DeepONet等现有方法,展示了最先进的精度,并通过其注意力机制发现了最优传感器设计原理。