Évita Muzic

新的 ViT Token 缩减策略提升了分布外准确率

研究人员为 Vision Transformer (ViTs) 开发了一种新的 Token 缩减策略，可在分布偏移下提高性能。这种“后期集中式”策略在后续层中移除更多 Token，与标准的“平坦式”策略相比，始终能提高分布外准确率。该方法以计算量的一小部分恢复了大部分原始准确率，在 ImageNet-C 和其他偏移数据集上，跨不同骨干网络和模态均显示出显著的提升，且无需进行每输入调优。