PulseAugur
实时 08:57:47

X-LogSMask 增强 Transformer 在图数据上的应用,在 13 个基准测试中达到 SOTA

研究人员开发了 X-LogSMask,这是一种将 Transformer 架构应用于图结构数据的新颖方法。该技术将图拓扑直接注入注意力 logits,使每个注意力头都能在定义的结构半径内运行。X-LogSMask 在 20 个图学习基准测试中的 13 个上展示了最先进的性能,为在不改变核心架构的情况下将 Transformer 应用于图数据提供了一种可解释且高效的方式。 AI

影响 增强了 Transformer 在图数据上的适用性,有望在社交网络分析和分子建模等领域提高性能。

排序理由 该集群描述了一篇介绍将 Transformer 应用于图结构数据的新颖方法的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

X-LogSMask 增强 Transformer 在图数据上的应用,在 13 个基准测试中达到 SOTA

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Leyan Li, Rennong Yang, Zhenxing Zhang, Liping Hu ·

    X-LogSMask: Expand Transformer for Graph-Structured Data

    arXiv:2607.01553v1 Announce Type: cross Abstract: Transformers have become general-purpose architectures, but their all-to-all self-attention is poorly matched to graph data, whose interactions are sparse, structured and multi-scale. Existing Graph Transformers address this misma…