X-LogSMask

X-LogSMask 增强 Transformer 在图数据上的应用，在 13 个基准测试中达到 SOTA

研究人员开发了 X-LogSMask，这是一种将 Transformer 架构应用于图结构数据的新颖方法。该技术将图拓扑直接注入注意力 logits，使每个注意力头都能在定义的结构半径内运行。X-LogSMask 在 20 个图学习基准测试中的 13 个上展示了最先进的性能，为在不改变核心架构的情况下将 Transformer 应用于图数据提供了一种可解释且高效的方式。