PulseAugur
实时 07:48:49

合成数据和课程设计提升关系型PFN预训练效果

研究人员探索了关系型先验数据拟合网络(PFN)的数据高效预训练方法,该网络用于关系型数据库中的贝叶斯推理。两篇论文研究了合成数据生成器(如Plurella)的使用以及课程设计对模型性能的影响。研究结果表明,与传统方法相比,逐步增加模式复杂度的渐进式课程设计,可以使用显著更少的合成数据来显著提高下游性能。具体而言,单表课程在关系型基准测试中取得了高性能,几乎可以媲美专用的关系型管道,而使用外部生成器的模式引导课程则通过减少数据量证明了其有效性。 AI

影响 新颖的预训练策略可能能够实现更具数据效率的关系型AI模型开发。

排序理由 两篇arXiv论文详细介绍了关系型模型预训练方法的最新研究成果。

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

合成数据和课程设计提升关系型PFN预训练效果

报道来源 [2]

  1. arXiv cs.LG TIER_1 English(EN) · Mohammad Sadeq Abolhasani, Viswanath Ganapathy ·

    课程很重要:利用合成数据进行数据高效的关系型PFN预训练

    arXiv:2607.29120v1 Announce Type: new Abstract: Relational Prior-Data Fitted Networks (PFNs) such as RDB-PFN approximate Bayesian inference over multi-table relational databases by pretraining on millions of synthetic tasks. We investigate three intertwined questions about this p…

  2. arXiv cs.LG TIER_1 English(EN) · Mohammad Sadeq Abolhasani, Viswanath Ganapathy ·

    PluRel-to-RDB-PFN:模式引导的合成关系预训练

    arXiv:2607.29129v1 Announce Type: new Abstract: Relational Foundation Models (RFMs) require large-scale synthetic relational databases for pretraining, but existing approaches tightly couple data generation with the model training pipeline. We study whether PluRel, a general-purp…