Parabolic Positional Encoding

新型抛物线位置编码提升视觉AI性能

研究人员推出了一种新颖的位置编码方法——抛物线位置编码（PaPE），用于编码基于视觉的AI模型中的位置信息。与先前改编自语言序列编码的方法不同，PaPE专为视觉模态设计，考虑了平移不变性、旋转不变性和距离衰减等因素。在ImageNet-1K上的实验表明，PaPE具有卓越的外推能力，在性能上比现有方法提高了高达10.5个绝对百分点。在四个模态和八个数据集上的进一步测试证实了PaPE的通用性和有效性，在大多数情况下均能达到或超过基线性能。