graph learning
PulseAugur coverage of graph learning — every cluster mentioning graph learning across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新方法将Transformer的位置编码适配到图数据
研究人员正在探索将旋转位置编码(RoPE)——一种广泛用于Transformer大语言模型和视觉Transformer的技术——应用于图结构数据。一种称为波诱导旋转编码(WIRE)的方法,应用图拉普拉斯算子的谱信息来旋转token,从而提高图学习任务的性能。另一项开发,高维动态旋转位置嵌入(HDD-RoPE),提出了一种多维位置嵌入方法,允许数据依赖的旋转并加速在TinyStories等数据集上的收敛。
-
PRISM框架解决了联邦图学习中的模态缺失问题
研究人员推出PRISM,一个新颖的联邦图学习框架,用于解决跨不同客户端的模态缺失挑战。PRISM能够从包含文本和图像的去中心化图中进行协作学习,即使单个客户端缺乏完整的多模态数据。该框架通过拓扑感知控制,主动地从联邦中检索并填充缺失的模态语义,并将其整合到本地图传播中。实验证明了PRISM的有效性,在六个多模态图数据集上,平均比最先进的基线提高了4.48%。
-
IstGPT 利用大语言模型和图学习进行工业异常检测
研究人员开发了 IstGPT,一种利用大语言模型和图学习检测工业控制系统异常的新系统。该方法通过整合运行数据、技术文档和系统图来构建时空图,从而模拟复杂的传感器-执行器依赖关系。IstGPT 然后采用图神经网络通过重构误差来识别异常,在九个不同数据集上的表现优于 12 种现有方法。
-
MedMamba架构改进医疗时间序列分类
研究人员开发了MedMamba,一种用于医疗时间序列分类的新型架构,它集成了状态空间模型和自适应图学习。该方法旨在更好地捕捉局部-全局动态,处理基线漂移等非平稳性,并揭示潜在的通道相关性。MedMamba利用多尺度卷积嵌入和三分支差分状态空间编码器,以及一个学习依赖结构而无需预定义图的空间图Mamba模块。实验表明,MedMamba在线性计算复杂度下实现了最先进的性能。
-
新的GNN方法通过序列建模增强图学习
研究人员开发了新的方法,通过整合现代序列建模的原理来改进图学习。一种方法MP-SSM将状态空间模型(SSM)计算直接嵌入消息传递神经网络框架中,能够对静态图和时间图进行高效且排列等变的远程信息传播。另一种方法SiST-GNN在单一消息传递操作中融合了空间和时间信号,用于动态图表示学习,在链接预测和节点分类任务上取得了显著的最新进展。
-
论文揭示了用于 Transformer 的图标记化的权衡及其对模型表达能力的影响
一篇新论文探讨了图标记化在将 Transformer 应用于图学习任务中的关键作用。研究人员证明,将图结构转换为标记的方法会显著影响 Transformer 的表达能力以及计算所需的深度。研究表明,某些标记化方法(如随机游走)本质上是有损的,而另一些方法(如谱标记化)可能不适合特定任务。研究结果表明,结合互补的标记化策略可以增强 Transformer 利用多样化结构信号的能力,从而提高性能。
-
CMGL框架通过置信度引导的多组学图学习改进癌症亚型分类
研究人员开发了CMGL,一种用于癌症亚型分类的新型框架,该框架利用多组学数据。这种两阶段方法首先使用证据深度学习估计每个患者不同组学模态的可靠性。然后,这些置信度分数指导组学数据的融合和患者相似性图的构建,从而提高癌症亚型分类的准确性。CMGL在多项癌症任务中表现出优越的性能,包括一个32类全癌分类任务,并显示出将学习到的表示转移到新癌症类型的潜力。