SCLA-BCP

新的SCLA-BCP方法增强了脉冲神经网络Transformer的注意力局部性

研究人员开发了一种名为空间连续局部注意力和边界连续性通路（SCLA-BCP）的新方法，以提高脉冲神经网络Transformer的空间局部性。该方法解决了在脉冲驱动的视觉处理中建立局部化token交互的挑战。SCLA-BCP在相邻token区域内计算注意力，并使用卷积通路进行跨边界通信，在COCO 2017和ADE20K等数据集上展示了显著的准确性提升，且开销极小。