TabPFNv2
PulseAugur coverage of TabPFNv2 — every cluster mentioning TabPFNv2 across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的表格基础模型 TabPFN-3.5 和 Causilo 取得最先进的成果
新的表格基础模型正在快速发展,Prior Labs 发布了 TabPFN-3.5,Nums AI 发布了 Causilo。TabPFN-3.5 表现强劲,在默认设置下,其性能优于 2015 年 Kaggle 竞赛的获胜解决方案(在 Otto 数据集上),并在多项基准测试中名列前茅。Causilo 在分类和回归任务的单模型中也处于 TabArena 排行榜的前列。研究还表明,虽然对于先进的表格基础模型而言,特征工程的收益正在减小,但提供…
-
表格基础模型展现出潜力但面临部署障碍
近期研究表明,表格基础模型(TFMs),如TabPFN和TabFM,在表格机器学习任务上表现强劲,有时甚至超越XGBoost等传统梯度提升模型。然而,这些先进模型在实际部署中面临挑战,包括巨大的内存和计算资源需求。研究还显示,TFMs在面对分布外数据时性能会下降,这是现实世界场景中常见的问题,尽管它们与分布内数据的性能关系仍然成立。
-
CRUMB 通过上下文批处理提高 PFN 推理效率
研究人员开发了 CRUMB,这是一种新颖的推理包装器,旨在提高先验拟合网络 (PFN) 的效率。PFN 是强大的表格基础模型,可以执行上下文学习,但其自注意力机制会导致大型数据集的计算成本高昂的推理。CRUMB 通过聚类测试查询、使用 MMD 最小化选择分布匹配的训练子集,然后在这些缩减的批次上执行推理来解决这个问题。该方法与架构无关,在 TabArena 基准测试上显示出优于现有上下文选择策略的性能,并且对协变量漂移具有鲁棒性。