Weisfeiler–Leman algorithm
PulseAugur coverage of Weisfeiler–Leman algorithm — every cluster mentioning Weisfeiler–Leman algorithm across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究统一了关系和时序 GNN 的表达能力
研究人员在强表达性彩票假说(SELTH)的框架内,探索了稀疏图神经网络(GNN)的表达能力。该研究将这一假说推广到多关系和时序图领域,并引入了关系 Weisfeiler-Leman(RWL)算法的概念。研究结果表明,参数充分的关系 GNN 可以包含保持 1-RWL 表达能力的稀疏子网络,并通过随机剪枝实现这一目标的概率得出了一个推导出的下界。该研究还证明,常见的时间 GNN 和跨图消息传递方案可以重新表述为 RGNN,继承这些表达能力…
-
研究发现:图变换器在MILP上的表现受限于1-WL测试
一篇新论文对用于混合整数线性规划(MILP)的全局注意力图变换器的表达能力进行了特征化。研究证明,包括Graphormer和Set Transformer等架构在内的这些模型受到一维Weisfeiler-Leman(1-WL)测试的限制。这意味着在1-WL测试下等价的MILP实例将从这些变换器接收相同的图嵌入,从而无法恢复某些图不变量。研究表明,超越1-WL的表达能力主要来自输入编码,而非注意力机制本身。
-
新的 GPU 方法将图神经网络可表达性分析扩展到海量图
研究人员开发了一种新方法,通过将 Weisfeiler-Leman (1-WL) 稳定着色计算扩展到海量图来分析图神经网络 (GNN) 的可表达性。他们的方法利用线性代数解释,并引入了一种随机细化算法,结合了允许在 GPU 上并行处理的批处理方案。这种 GPU 高效实现与传统的基于 CPU 的方法相比,速度提高了两个数量级,并且现在可以在具有数十亿条边的图上计算稳定着色,这在以前由于内存和顺序处理限制而无法实现。
-
新论文揭示MP-GNNs的基本表达能力限制
一篇题为“Lost in Aggregation: On a Fundamental Expressivity Limit of Message-Passing Graph Neural Networks”的新研究论文,作者为Eran Rosenbluth,探讨了消息传递图神经网络(MP-GNNs)的一个理论局限性。该论文为聚合函数定义了一个信息复杂度属性,并证明了使用此类函数的MP-GNNs只能区分多项式数量的图结构,这远少于非同构…
-
新的 PRiSM 方法为 GNN 提供完整的图规范化
研究人员已经证明,Weisfeiler-Leman (WL) 测试,一种图同构测试的常用方法,对于具有简单谱的图是不完备的。这一局限性延伸到依赖于 WL 层次结构的图神经网络 (GNN)。为了解决这个问题,开发了一种名为 PRiSM 的新方法,该方法为简单谱特征分解提供了可证明的完整规范化。当与 DeepSets 或 Transformers 等模型集成时,PRiSM 能够在此类图上实现通用近似。