Data-Efficient Image Transformer

新方法通过图像重建解码 Transformer 视觉模型

研究人员开发了一种新颖的、模块化的特征逆向方法，用于理解基于 Transformer 的视觉模型。该方法从中间表示中重建图像，与以前的技术相比，提供了计算效率更高、语义上更连贯的分析。该技术应用于 Detection Transformer、Vision Transformer、Swin Transformer 和 Data-Efficient Image Transformer 等模型，揭示了网络层之间表示的渐进式变化，并突出了这些…