Prior-Data Fitted Networks
PulseAugur coverage of Prior-Data Fitted Networks — every cluster mentioning Prior-Data Fitted Networks across labs, papers, and developer communities, ranked by signal.
- 2026-05-11 research_milestone A new paper introduces a method for uncertainty quantification in Prior-Data Fitted Networks. 来源
6 天有情绪数据
-
新的先验数据拟合网络增强了贝叶斯变量选择
研究人员推出了一种用于统计建模中贝叶斯变量选择的新方法——先验数据拟合网络（PFNs）。文章详细介绍了两种特定的PFN变体：CD-PFN和PC-PFN，分别用于识别条件依赖和因果图结构。这些网络无需后验样本或特定数据建模即可估计后验包含概率，并在实验中显示出优于现有方法的性能。
-
新的GAS-PFN模型推动零样本交通预测
研究人员开发了一种名为图感知时空先验数据拟合网络（GAS-PFN）的新模型，该模型专为零样本交通预测而设计。该模型将道路拓扑结构集成到其训练过程中，使其能够学习图耦合动力学。GAS-PFN 利用 Transformer 主干和一个独特اً的双通道架构来分别建模时空和时空交互，从而能够在不更新新网络参数的情况下进行预测。在六个基准测试的评估中，GAS-PFN 表现出显著的改进，与前代模型 TimePFN 相比，平均均方误差（MSE）降低…
-
新的去偏PFNs增强了半参数目标的贝叶斯推理
本文介绍了去偏先验数据拟合网络（PFNs），以改进半参数目标的摊销贝叶斯推理。作者们建立了理论基础，表明理想化的PFNs的后验集中率可能取决于 the nuisance functions 和先验多样性。为解决此问题，他们提出了两种去偏策略：标签校正和先验校正。这些去偏PFNs实现了与传统频率学派偏差校正估计量相当的渐近集中率，将摊销贝叶斯推理与频率学派半参数效率理论联系起来，并保证了局部和全局最优性。
-
新研究将合成预训练应用于基于图的关系模型
研究人员探索了将先验数据拟合网络（PFNs）应用于基于图的关系基础模型，特别是Griffin模型。与基于Transformer的模型不同，PFNs在图上下文中的探索有限。该研究采用课程学习方法，在合成关系数据库上预训练Griffin，从指导模式到不指导模式的数据进行。然后，预训练的编码器被用作通用关系表示学习器，将潜在表示传递给冻结的上下文内预测器，而无需在目标任务上进行进一步训练。该方法在16个现实世界的关系分类任务上表现强劲，优于…
-
新型TabClustPFN模型推动表格数据聚类发展
研究人员推出了一种新颖的、用于表格数据聚类的先验数据拟合网络TabClustPFN。该新方法通过单次运行联合推断聚类分配和基数，解决了表格聚类中的关键挑战，如缺乏监督、未知聚类基数和标签切换。TabClustPFN利用混合预训练先验来捕获异构真实表格几何结构，并采用不变量于排列的SoftARI训练目标，无需传统的标签排序约定。该模型在44个真实表格数据集的基准测试中表现出最先进的性能，优于现有的经典、深度和摊销聚类方法。
-
SelectPFN 推进了稀疏非线性回归的贝叶斯变量选择
研究人员开发了 SelectPFN，这是一种新颖的先验数据拟合网络 (PFN)，能够同时对稀疏非线性回归执行贝叶斯变量选择和预测。该新模型可以在单次前向传播中识别哪些输入变量对其预测影响最大，并提供后验包含概率。在各种数据集上，SelectPFN 表现出优于 lasso 和 BART 等现有方法的性能，尤其是在检测仅交互变量方面。
-
新研究揭示了先验数据拟合网络中的谱结构
两篇新研究论文探讨了先验数据拟合网络（PFNs）的内部机制，这是一种表格基础模型。第一篇论文提供了机械证据，表明PFNs捕获与其上下文相关的谱结构，这些结构可以被解码为高斯过程回归的显式核。第二篇论文研究了PFNs如何摊销贝叶斯推理，发现它们通常能很好地恢复目标后验预测分布，但在罕见情况下可能表现出残差误差，这可以通过贝叶斯模型平均来缓解。
-
新方法改进了表格模型的特征获取策略评估
研究人员开发了一种使用表格基础模型评估活动特征获取策略的新方法。该方法解决了因不平衡的离线数据覆盖而产生的偏差，这种偏差会错误地惩罚稀疏观察到的特征的获取。通过以后验预期熵为目标而不是总预测熵，新方法减少了价值估计偏差，并改进了下游策略的选择，这在合成和真实世界数据集上得到了证明。
-
OFAG：一种统一的归因图聚类基础模型
研究人员开发了OFAG，一种新颖的归因图聚类基础模型。该模型旨在提供一个单一的、可适应的解决方案，无需进行图特定的训练或微调即可应用于各种归因图。OFAG利用维度无关编码器和超球面聚类目标，在一次前向传播中生成有效的节点表示，在多个数据集上的性能和效率均优于现有方法。
-
新的IQS-BO方法通过学习到的查询选择来简化贝叶斯优化
研究人员推出了一种新颖的贝叶斯优化方法IQS-BO，该方法显著降低了计算成本。与需要重复拟合代理模型的传统方法不同，IQS-BO利用先验数据拟合网络（PFNs）通过在合成数据上进行监督学习来学习查询决策。这使得单次前向传播即可预测候选者最大化目标的概率，在各种基准测试中优于现有方法。
-
LLM生成的因果先验可提升推理模型性能
研究人员开发了一个新的框架，用于在机器学习模型中选择因果先验，特别是针对摊销因果推理任务。该框架称为闭环先验选择，它使用大型语言模型（LLMs）生成候选因果图，然后根据在真实数据上的性能优化选择过程。实验表明，使用此方法在一个关键评估领域中性能显著提高了2.75倍，优于未注入先验的模型。
-
新研究发现，在节点预测任务上，先进的GFM仅略优于GNN
一项最新研究重新评估了九种图基础模型（GFM）在节点属性预测任务上的表现。节点属性预测是图机器学习中的一项常见应用，用于欺诈检测和推荐系统等领域。研究发现，只有采用先验数据拟合网络（Prior-data Fitted Networks）范式的GFM才能优于精心调优的图神经网络（GNN）。然而，这些先进的GFM带来了更高的推理成本。
-
新的 $\alpha$-PFN 方法通过学习到的近似加速贝叶斯优化
研究人员开发了一种名为 $\alpha$-PFN 的新方法，以加速贝叶斯优化中使用的熵搜索 (ES) 获取函数。该方法利用先验数据拟合网络 (PFNs) 来学习 ES 的近似，用单次前向传播替换复杂且缓慢的蒙特卡洛估计。$\alpha$-PFN 系统分两个阶段进行训练，在各种基准测试中已证明其性能与最先进的 ES 实现相当，速度提升超过 50 倍。
-
论文：Transformer 可在上下文中学习分布
一篇新论文探讨了 Transformer 在上下文中学习分布的理论能力，特别关注贝叶斯预测任务。研究人员展示了 Transformer 如何实现梯度下降算法来近似后验预测均值和方差，以及归一化和注意力深度等架构选择如何影响它们的推断能力。高斯过程回归问题的模拟支持了这些发现，为先验数据拟合网络 (PFNs) 的表达力提供了见解。
-
新方法解决表格AI模型中的类别不平衡问题
研究人员已将经典技术应用于解决表格分类的先验数据拟合网络（PFNs）中的类别不平衡问题。他们发现，由于PFNs的校准特性，阈值处理效果极佳。下采样也被证明是有效的，它利用了PFNs强大的有限数据能力，在提供可比性能的同时降低了推理的计算成本。
-
新方法增强了PFN的量化不确定性
研究人员开发了一种用于先验数据拟合网络（PFN）量化不确定性的新方法，PFN是用于表格数据预测的先进模型。这种基于鞅后验的新方法提供了一种原则性且高效的方法来估计预测均值和分位数的不确定性，而无需手动调整。该方法的收敛性已得到数学证明，并通过模拟和实际应用证明了其有效性，在推理任务中表现出良好的校准。