LLM Features

LLM Features Can Harm GNN Performance on Homophilous Graphs

一篇新研究论文揭示，将大型语言模型（LLM）生成的特征整合到图神经网络（GNN）中，有时会降低在特定基准测试上的性能。这种被称为“连接干扰”的效应，在LLM特征被简单地附加到现有数据时被观察到，导致在PubMed和Cora等数据集上的准确性显著下降。研究表明，LLM特征的有效性取决于超越简单连接的因素，在中等同质性数据集上观察到了性能提升。