研究人员开发了一种名为图Transformer语言模型(GTLM)的新架构,使大型语言模型能够在没有语义瓶颈的情况下处理图结构数据。这种参数高效的模型将图感知注意力偏置直接集成到现有的LLM中,只需要最少的额外参数。评估表明,一个10亿参数的GTLM在图基准测试上可以媲美甚至超越更大的模型,并展示了模拟消息传递以完成算法任务的能力。 AI
影响 使LLM能够原生处理图数据,有望提高GraphQA和关系深度学习等任务的性能。
排序理由 该集群包含一篇详细介绍LLM新型模型架构的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →