Prior-Data Fitted Networks
PulseAugur coverage of Prior-Data Fitted Networks — every cluster mentioning Prior-Data Fitted Networks across labs, papers, and developer communities, ranked by signal.
- 2026-05-11 research_milestone A new paper introduces a method for uncertainty quantification in Prior-Data Fitted Networks. 来源
1 天有情绪数据
-
新研究发现,在节点预测任务上,先进的GFM仅略优于GNN
一项最新研究重新评估了九种图基础模型(GFM)在节点属性预测任务上的表现。节点属性预测是图机器学习中的一项常见应用,用于欺诈检测和推荐系统等领域。研究发现,只有采用先验数据拟合网络(Prior-data Fitted Networks)范式的GFM才能优于精心调优的图神经网络(GNN)。然而,这些先进的GFM带来了更高的推理成本。
-
新的 $\alpha$-PFN 方法通过学习到的近似加速贝叶斯优化
研究人员开发了一种名为 $\alpha$-PFN 的新方法,以加速贝叶斯优化中使用的熵搜索 (ES) 获取函数。该方法利用先验数据拟合网络 (PFNs) 来学习 ES 的近似,用单次前向传播替换复杂且缓慢的蒙特卡洛估计。$\alpha$-PFN 系统分两个阶段进行训练,在各种基准测试中已证明其性能与最先进的 ES 实现相当,速度提升超过 50 倍。
-
论文:Transformer 可在上下文中学习分布
一篇新论文探讨了 Transformer 在上下文中学习分布的理论能力,特别关注贝叶斯预测任务。研究人员展示了 Transformer 如何实现梯度下降算法来近似后验预测均值和方差,以及归一化和注意力深度等架构选择如何影响它们的推断能力。高斯过程回归问题的模拟支持了这些发现,为先验数据拟合网络 (PFNs) 的表达力提供了见解。
-
新方法解决表格AI模型中的类别不平衡问题
研究人员已将经典技术应用于解决表格分类的先验数据拟合网络(PFNs)中的类别不平衡问题。他们发现,由于PFNs的校准特性,阈值处理效果极佳。下采样也被证明是有效的,它利用了PFNs强大的有限数据能力,在提供可比性能的同时降低了推理的计算成本。
-
新方法增强了PFN的量化不确定性
研究人员开发了一种用于先验数据拟合网络(PFN)量化不确定性的新方法,PFN是用于表格数据预测的先进模型。这种基于鞅后验的新方法提供了一种原则性且高效的方法来估计预测均值和分位数的不确定性,而无需手动调整。该方法的收敛性已得到数学证明,并通过模拟和实际应用证明了其有效性,在推理任务中表现出良好的校准。