研究人员开发了一种名为空间连续局部注意力和边界连续性通路（SCLA-BCP）的新方法，以提高脉冲神经网络Transformer的空间局部性。该方法解决了在脉冲驱动的视觉处理中建立局部化token交互的挑战。SCLA-BCP在相邻token区域内计算注意力，并使用卷积通路进行跨边界通信，在COCO 2017和ADE20K等数据集上展示了显著的准确性提升，且开销极小。 AI
影响 这项研究可能导致神经形态计算系统中更高效、更准确的视觉处理。
排序理由 该集群包含一篇详细介绍改进脉冲神经网络Transformer新方法的论文。
- ADE20K
- arXiv
- COCO 2017
- Mean Attention Distance
- SCLA-BCP
- Softmax-free Spiking Self-Attention
- Spatially Contiguous Local Attention with Boundary Continuity Pathway
- Spiking Transformers
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
