GraphBFF Transformer

GraphBFF框架支持构建百亿参数的图基础模型

研究人员开发了Graph Billion-Foundation-Fusion (GraphBFF)框架，用于创建专为大规模、异构图设计的百亿参数图基础模型 (GFMs)。GraphBFF Transformer架构实现了实用的GFMs，该框架包含数据批处理、预训练和微调的方法。在百亿规模的真实图上的评估表明，GraphBFF在十个不同的下游任务中，即使在少样本场景下，也始终优于现有方法。