TabPFN
PulseAugur coverage of TabPFN — every cluster mentioning TabPFN across labs, papers, and developer communities, ranked by signal.
- 2026-05-15 research_milestone A paper introduces TabPFN for clinical decision support in pediatric ECMO, outperforming traditional baselines. 来源
7 天有情绪数据
-
通过整合因果结构改进 TabPFN 合成数据生成
一篇新的研究论文提出,通过整合因果结构来改进 Tabular Prior-Data Fitted Network (TabPFN) 的合成数据生成能力。TabPFN 目前的自回归性质,如果特征顺序与潜在的因果关系冲突,可能导致虚假相关性,从而影响数据质量和因果效应的保持。提出的解决方案包括 DAG 感知条件化(DAG-aware conditioning),即根据变量的因果父节点进行采样,以及在因果知识不完整的场景下采用基于 PDAG…
-
基础模型与放射组学在肺部CT分析中的基准测试
一篇新发布的arXiv基准研究,将基础模型与传统的放射组学技术在肺部CT扫描分析方面进行了比较。该研究评估了五种特征提取器、七种分类头和三种分割方法,涵盖了肿瘤分类和生存预测等五个任务。研究结果表明,分割对于体积和分期分类至关重要,而分类器的选择显著影响生存和组织学预测。研究建议在临床任务中,默认采用Curia结合肿瘤分割和CatBoost的流程,并在缺乏肿瘤描绘时提供替代方案。
-
Google Research 发布 TabFM,一个用于表格数据的零样本基础模型
Google Research 推出了 TabFM,一个专为表格数据设计的新型基础模型,该模型无需数据集特定的训练即可执行分类和回归任务。该模型利用混合注意力架构,结合了行和列注意力机制,并利用上下文学习在单次前向传播中进行预测。TabFM 使用数亿个合成数据集进行了大规模训练,现已在 Hugging Face 和 GitHub 等平台上提供。
-
表格基础模型在生物分子预测任务中展现出惊人的泛化能力
一篇新的研究论文探讨了表格基础模型(如 TabPFN 和 TabICL)在预测生物分子属性方面的惊人有效性。尽管这些模型在与生物结构没有直接联系的合成数据上进行了预训练,但在蛋白质适应性回归和小分子分类的少样本学习场景中,它们仍然展现出具有竞争力的性能。研究强调,虽然表格上下文学习显示出潜力,但其成功在很大程度上依赖于所使用的蛋白质或分子表示的质量。
-
企业数据与基准不同,新论文发现 · 跟踪到2个来源
一项新的研究论文强调了表格企业数据与公开可用基准之间存在的显著差异。该研究分析了像TabPFN、TabICL和ConTextTab等表格模型的数据统计和模型性能。研究结果表明,在标准基准上表现良好的模型在真实世界的企业数据上可能表现不佳,这凸显了对更多以企业为中心的基准的需求。
-
Google推出TabFM用于表格数据;新研究探讨模型局限性
Google Research推出了TabFM,一个用于表格数据的零样本基础模型,该模型与BigQuery ML集成,以简化分类和回归任务。与需要大量手动调优的传统方法不同,TabFM使用上下文学习,在单次传递中从未见过的数据表中生成预测。同时,几篇研究论文探讨了表格基础模型的能力和局限性,其中一篇论文强调了关于规则约束数据的推理存在形式化障碍,另一篇论文则引入了一个基准来评估模型在标准独立同分布(IID)数据集之外的通用性。
-
研究人员提出强化学习基础模型
一篇新研究论文提出开发专门用于强化学习(RL)的基础模型,认为与语言和视觉领域相比,该领域目前存在一个明显的空白。作者认为,马尔可夫决策过程(MDP)非常适合基于注意力(attention-based)的架构,类似于在表格基础模型中使用的架构。作为演示,他们在一个合成MDP上训练了一个模型,该模型成功地以最小的调整解决了未见过的表格基准测试,在在线设置中优于UCB-VI和表格Q学习等传统方法,并在离线场景中与VI-LCB竞争。
-
新研究对类别不平衡的二元分类器进行基准测试
一项新近发表在 arXiv 上的研究,在不采用重采样技术的情况下,探讨了二元分类器在面对类别不平衡数据集时的性能表现。研究人员评估了包括传统模型以及 TabPFN 和提升集成模型在内的各种分类器,使用了真实世界和合成数据集,并逐步减小了少数类的大小。研究结果表明,随着数据复杂性和少数类代表性的降低,分类难度增加,但与传统方法相比,先进模型展现出更强的鲁棒性和泛化能力。
-
表格基础模型适应于临床生存预测
研究人员开发了一种方法,将表格基础模型应用于临床生存分析,这是一项对预测死亡率等事件发生时间至关重要的任务。该方法包括在像TabPFN、TabDPT和TabICL这样的模型预训练表示之上训练一个生存感知的头部。在公共基准和大型ICU数据集上,经过适应的模型表现出具有竞争力或更优越的性能,优于现有基线。
-
可解释的AI框架预测婴儿死亡率和脑瘫
研究人员开发了QDSP,一个新颖的可解释结构化学习框架,旨在预测极低出生体重儿的死亡率或脑瘫。该框架整合了配额引导子空间采样(QSS)和可微分决策引导结构感知(DSP),以模拟复杂的临床相互作用并识别关键预测因子。QDSP在真实世界队列和公共数据集上表现出高准确率和AUC,优于现有的机器学习模型,并提供了临床相关的见解。
-
pTNAS 加速表格数据的神经架构搜索
研究人员开发了 pTNAS,一种专为表格数据设计的渐进式神经架构搜索新方法。该方法能高效地识别最优的神经网络架构,与现有方法相比,显著降低了时间和计算成本。pTNAS 采用两阶段策略:一个快速的零成本代理用于初步筛选,以及一个预算感知型精炼阶段用于精确选择,其性能优于其他 NAS 方法,并提高了端到端效率。
-
新型适配器实现表格基础模型中的文本集成
研究人员开发了一种新方法,将文本数据集成到TabPFN等表格基础模型中。该方法使用轻量级的“TabPFN文本适配器”将文本嵌入直接映射到TabPFN的嵌入空间,绕过了传统PCA压缩造成的信息瓶颈。该适配器在保持句子编码器和TabPFN冻结的同时进行高效训练,保留了模型的数值优势并改善了文本处理能力。
-
新方法利用表格在数据有限的情况下检测 AI 图像
研究人员开发了一种新颖的 AI 生成图像检测方法,特别适用于传统检测器难以应对的低数据场景。该方法将图像转换为表格格式,使用冻结的 DINOv3 主干和 PCA 进行特征提取,然后通过上下文学习由 TabPFN 进行分类。尽管最近的 SOTA 检测器 LATTE 在数据充足的情况下表现更好,但新的 DINOv3-PCA-TabPFN 方法在低数据和迁移学习设置下显著优于它,为图像取证提供了更具适应性的解决方案。
-
新模型和方法提升表格基础模型效率
研究人员正在开发新的表格基础模型(TFMs),以提高效率和性能。TabSwift通过行级注意力和可学习令牌增强了TabPFN架构,实现了具有竞争力的准确性和更快的推理速度。LimiX-2M是一个较小的模型,通过解决注意力瓶颈和使用新颖的令牌化框架,也优于较大的基线模型。此外,研究人员正致力于通过社区驱动的“速通”来加速TFM预训练,并压缩数据集以实现更快的推理和减少内存使用。
-
新研究通过高效集成和比较研究解决基础模型不确定性问题
两篇新研究论文探讨了改进基础模型不确定性量化方法。第一篇论文介绍了奇异值集成(SVE),一种参数高效的技术,通过调制权重矩阵的奇异值来创建多样化的模型集成,显著降低计算成本,同时保持准确性并提高校准度。第二篇论文实证比较了表格基础模型(特别是TabPFN)与高斯过程的性能,结果表明,虽然TabPFN在复杂、数据丰富的场景中表现出色,但在数据稀疏的环境中,高斯过程提供了更优越的性能和不确定性量化,尤其是在其核函数与底层函数良好匹配时。
-
New algorithm AdaE-SAEA optimizes expensive multi-objective problems
研究人员开发了 AdaE-SAEA,这是一种新颖的自适应集成代理辅助进化算法,专为昂贵的 MOP 问题设计。该新方法将代理辅助进化算法集成到元黑盒优化框架中,从而对信息填充标准和基于集成的代理建模进行统一控制。AdaE-SAEA 通过采用装袋和提升技术,专门解决代理建模中的鲁棒性-准确性权衡问题,旨在在优化早期阶段改善探索,在后期阶段改善利用。实验表明,AdaE-SAEA 在现有最先进方法和元黑盒优化方法方面表现更优,其中 TabPF…
-
新的TabMGP方法增强了表格数据的贝叶斯不确定性量化
研究人员推出了一种新颖的表格数据贝叶斯推理方法TabMGP,该方法利用了TabPFN模型。该方法旨在通过用预测规则取代传统的先验和似然要求来提供可靠的不确定性量化。与现有的MGP构造和标准贝叶斯基线相比,TabMGP表现出了卓越的性能,实现了接近标称覆盖的信任区间。
-
新的LUCoS方法改进了表格基础模型的上下文选择
一篇新的研究论文介绍了LUCoS,一种用于表格基础模型无监督上下文选择的方法。LUCoS通过利用无监督先验拟合网络(PFN)的嵌入所诱导的潜在几何结构,解决了低标签表格学习中选择实例进行标记的挑战。该方法旨在通过选择代表性的medoids作为上下文来提高预测性能,在众多数据集和低标签预算下均优于随机选择和先前的原始特征空间方法。
-
新基准测试探究LLM在表格数据上的表现
研究人员推出了LLMTabBench,一个旨在评估大型语言模型(LLMs)在有限数据下进行二元表格分类任务表现的新基准测试。该基准测试显示,LLMs在零样本场景下具有竞争力,有时甚至优于使用少量样本的模型。然而,增加更多少量样本有时会因与现有知识冲突而阻碍LLM的表现,并且随着数据复杂度的增加,表现会下降。
-
TabPFN 在保险定价方面未能超越传统模型
一篇新论文评估了 Tabular Foundation Model (TabPFN) 在汽车保险定价方面的应用,并将其与传统的广义线性模型 (GLM) 和 XGBoost 进行了比较。研究发现,TabPFN 的表现并不总是优于这些成熟的方法。此外,TabPFN 的推理时间明显更长,并且对上下文训练集的大小敏感,这表明它还不能取代当前的精算实践,尤其是在数据丰富的环境中。