PulseAugur
实时 18:10:21
English(EN) LLM Features Can Hurt GNNs: Concatenation Interference on Homophilous Graph Benchmarks

LLM 特征可能损害同质图上的 GNN 性能

发表在 arXiv 上的一项研究表明,将大型语言模型 (LLM) 生成的特征纳入图神经网络 (GNN) 中,在某些同质图基准上反而会降低性能。这种性能下降尤其发生在通过简单的输入连接而非更集成的训练方法添加 LLM 特征时。该研究提出了一个名为 Delta_sig 的指标来预测这种连接干扰可能发生的时机,发现它比图同质性与性能下降的相关性更强。 AI

影响 这项研究表明,简单地连接 LLM 生成的特征并不总能提高 GNN 的性能,这凸显了仔细集成策略的必要性。

排序理由 该集群包含一篇发表在 arXiv 上的研究论文,详细介绍了 LLM 特征和 GNN 之间交互的实验结果。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

报道来源 [2]

  1. arXiv cs.AI TIER_1 English(EN) · Zhongyuan Wang, Pratyusha Vemuri ·

    LLM Features Can Hurt GNNs: Concatenation Interference on Homophilous Graph Benchmarks

    arXiv:2606.17579v1 Announce Type: cross Abstract: Adding LLM-generated node features to graph neural networks (GNNs) is widely reported to improve accuracy on standard benchmarks. We document a contrasting observation: when LLM features are introduced through pure input concatena…

  2. arXiv cs.CL TIER_1 English(EN) · Pratyusha Vemuri ·

    LLM Features Can Hurt GNNs: Concatenation Interference on Homophilous Graph Benchmarks

    Adding LLM-generated node features to graph neural networks (GNNs) is widely reported to improve accuracy on standard benchmarks. We document a contrasting observation: when LLM features are introduced through pure input concatenation (rather than joint training, distillation, or…