IsSameObject

视觉 Transformer 显示出具有有限空间范围的涌现式物体绑定能力

研究人员发现视觉 Transformer (ViTs) 表现出一种涌现式的“物体绑定”能力，使它们能够辨别不同的图像块是否属于同一个物体。然而，这种能力在空间上是有限的，随着图像块之间距离的增加，绑定信号会显著减弱。这种有限的空间范围及其相关的基线在各种物体大小、ADE20K 和 COCO 等数据集以及 DINO 和 CLIP 等不同的模型骨干网络中都保持一致，这表明它是所学表征的一种内在属性。