TabDPT
PulseAugur coverage of TabDPT — every cluster mentioning TabDPT across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究推动表格基础模型实现高效和鲁棒性
多篇研究论文探讨了表格基础模型(TFMs)的进展,重点关注提高其效率、鲁棒性和适应性。知识蒸馏等技术正被用于从大型TFM创建更小、更快的学生模型,而RelICL和VIP-COP等新方法则解决了关系学习和上下文优化中的挑战。此外,研究正在探索架构选择和参数高效适应策略,以增强TFM在亚群体偏移和大规模数据集等各种数据条件下的性能。
-
新的表格基础模型 TabPFN-3.5 和 Causilo 取得最先进的成果
新的表格基础模型正在快速发展,Prior Labs 发布了 TabPFN-3.5,Nums AI 发布了 Causilo。TabPFN-3.5 表现强劲,在默认设置下,其性能优于 2015 年 Kaggle 竞赛的获胜解决方案(在 Otto 数据集上),并在多项基准测试中名列前茅。Causilo 在分类和回归任务的单模型中也处于 TabArena 排行榜的前列。研究还表明,虽然对于先进的表格基础模型而言,特征工程的收益正在减小,但提供…
-
新的TabBench-Bio基准评估生物医学数据上的机器学习模型
引入了一个名为TabBench-Bio的新基准,用于评估高维生物医学数据集上的机器学习模型。该基准包含43个数据集,并对包括经典估计器、神经网络和表格基础模型在内的各种模型进行了比较。在10,000个特征和100个训练样本的特定操作点上,RealTabPFN v2.5表现出最高的性能,其次是Logistic Regression和TabDPT。该基准旨在互动式发展,并随着社区贡献新的生物医学表格数据集而不断扩展。
-
研究发现表格基础模型未能掌握物理学原理
一篇新的研究论文探讨了表格基础模型(TFMs)是否从训练数据中学习了物理学原理。该研究使用源自316个物理方程的数据集,评估了包括TabPFN-3和TabICLv2在内的四种TFMs,并与六种基线模型进行了比较。尽管TFMs表现出强大的性能,但研究发现它们无法表示无噪声机制或物理单位,这限制了它们作为真正物理模型的能力。
-
表格基础模型适应于临床生存预测
研究人员开发了一种方法,将表格基础模型应用于临床生存分析,这是一项对预测死亡率等事件发生时间至关重要的任务。该方法包括在像TabPFN、TabDPT和TabICL这样的模型预训练表示之上训练一个生存感知的头部。在公共基准和大型ICU数据集上,经过适应的模型表现出具有竞争力或更优越的性能,优于现有基线。
-
新型适配器TFM-Retouche在无需微调的情况下改进表格基础模型
研究人员开发了TFM-Retouche,这是一种新颖的适配器,旨在增强表格基础模型(TFM),而无需进行计算成本高昂的完全微调。这种轻量级、与架构无关的适配器在输入空间中运行,学习小的残差校正,以更好地将数据与TFM现有的归纳偏置对齐。当应用于TabICLv2时,名为TabICLv2-Retouche的框架在TabArena-Lite基准测试中取得了最高排名,显著提高了总体Elo分数并保持了效率。