ElTab

ElTab 模型可在不同计算预算下提供灵活的性能

研究人员开发了 ElTab，这是一种新的表格 Transformer 模型，旨在适应不断变化的计算预算。与之前在提前停止时会牺牲性能的循环 Transformer 不同，ElTab 使用弹性深度训练和随机采样的提前退出机制。这种方法允许单个 ElTab 模型匹配多个特定深度模型的性能，同时与 TabPFN 等现有基准相比，显著降低了训练成本和推理 FLOPs。