TFM-Retouche

新型适配器TFM-Retouche在无需微调的情况下改进表格基础模型

研究人员开发了TFM-Retouche，这是一种新颖的适配器，旨在增强表格基础模型（TFM），而无需进行计算成本高昂的完全微调。这种轻量级、与架构无关的适配器在输入空间中运行，学习小的残差校正，以更好地将数据与TFM现有的归纳偏置对齐。当应用于TabICLv2时，名为TabICLv2-Retouche的框架在TabArena-Lite基准测试中取得了最高排名，显著提高了总体Elo分数并保持了效率。