实体
Relational Transformer
Relational Transformer
PulseAugur coverage of Relational Transformer — every cluster mentioning Relational Transformer across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
研究:合成数据的关系属性影响模型学习
研究人员调查了合成关系数据如何影响机器学习模型的行为,特别是关注模型是否学会利用关系结构。他们的研究使用了四个在不同生成器数据上训练的 Relational Transformer 检查点,以追踪特定的数据属性到学习到的计算和下游性能。研究结果表明,当跨表信息对于预训练目标具有预测必要性时,关系机制就会出现,其中一个生成器 RelDiff 对外键链接表现出独特的敏感性,这转化为在关系任务上的卓越性能。
-
关系Transformer在数据库深度学习模型中表现优于其他模型
一项新的基准测试研究评估了用于关系数据库的深度学习模型,发现关系Transformer (RT) 方法通常优于其他方法。该研究系统地将RT与基于图的模型以及TabPFN-2.5表格基础模型在各种数据库和任务上进行了比较。结果表明,RT取得了卓越的性能,甚至在单表学习任务上超越了TabPFN-2.5。研究还表明,将学习扩展到多个表可以提高性能,尽管随着计算复杂度的增加,收益会减小。
-
OpenRFM 通过新架构推进关系型上下文学习
研究人员推出 OpenRFM,一个旨在改进上下文学习的关系基础模型(RFM)的新框架。该研究通过分析模型侧欠定和数据侧预训练不足等现有模型的关键局限性。OpenRFM 通过结合双阶段 ICL 架构和一种结合合成数据与真实世界数据的新颖预训练策略来解决这些问题,从而显著提高了性能。