PulseAugur
实时 06:21:55

论文揭示了用于 Transformer 的图标记化的权衡及其对模型表达能力的影响

一篇新论文探讨了图标记化在将 Transformer 应用于图学习任务中的关键作用。研究人员证明,将图结构转换为标记的方法会显著影响 Transformer 的表达能力以及计算所需的深度。研究表明,某些标记化方法(如随机游走)本质上是有损的,而另一些方法(如谱标记化)可能不适合特定任务。研究结果表明,结合互补的标记化策略可以增强 Transformer 利用多样化结构信号的能力,从而提高性能。 AI

影响 强调了图标记化方法如何从根本上影响 Transformer 在图学习任务中的性能。

排序理由 该集群包含一篇学术论文,详细介绍了关于特定机器学习技术的理论发现和实验验证。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Maya Bechler-Speicher, Gilad Yehudai, Gil Harari, Clayton Sanford, Amir Globerson, Joan Bruna ·

    Lost in Tokenization: Fundamental Trade-offs in Graph Tokenization for Transformers

    arXiv:2605.22471v1 Announce Type: new Abstract: Transformers have become a central architecture for graph learning, but their application to graphs requires first choosing a tokenization: a graph-to-token map that determines which structural information is exposed at the input. I…

  2. arXiv cs.LG TIER_1 English(EN) · Joan Bruna ·

    Lost in Tokenization: Fundamental Trade-offs in Graph Tokenization for Transformers

    Transformers have become a central architecture for graph learning, but their application to graphs requires first choosing a tokenization: a graph-to-token map that determines which structural information is exposed at the input. In this work, we show that this choice is a funda…