TabH2O

TabH2O基础模型统一表格预测任务

研究人员推出TabH2O，这是一种新颖的基础模型，专为表格数据预测任务（如分类和回归）而设计。该模型采用统一的训练方法和双头架构，能够通过上下文学习在单次前向传播中处理这两种任务类型。关键改进包括用于增强稳定性的单阶段预训练和用于构建对无关特征鲁棒性的噪声感知预训练。在TALENT基准测试中，TabH2O表现出竞争力，优于多种既有方法，并在相当一部分测试数据集上获得前三名。