Spiking Transformer
PulseAugur coverage of Spiking Transformer — every cluster mentioning Spiking Transformer across labs, papers, and developer communities, ranked by signal.
-
Spikformer V2 使用SNN在ImageNet上实现80%+的准确率
研究人员开发了Spikformer V2，这是一种包含脉冲自注意力机制的新型脉冲神经网络（SNN）。这一进展使SNN能够利用自注意力机制的性能优势，而这在以前的生物学上可行的模型中是不存在的。Spikformer V2还包括一个脉冲卷积干和利用自监督学习进行增强训练，在ImageNet上实现了超过80%的准确率，这是SNN的首次突破。
-
新方法增强 Spiking Transformer 在图像任务上的性能 · 跟踪 2 个来源
研究人员引入了尖峰局部交互 (SLI) 和自适应互补融合 (ACF) 来增强 Spiking Transformer。这些方法通过引入一个独立于注意力的通道，用于相邻尖峰令牌之间的直接信息交换，并自适应地平衡 SSA 和 SLI 的贡献，从而解决了标准尖峰自注意力 (SSA) 的局限性。在包括 ImageNet-1K 和 ADE20K 在内的各种数据集上的实验表明，在图像分类、基于事件的识别和语义分割方面取得了持续的改进。
-
新的Ge2mS-T架构提高了脉冲Transformer的能效
研究人员推出了一种名为Ge$^2$mS-T的新型架构，旨在提高脉冲视觉Transformer（S-ViTs）的能效。这种新方法通过在时间、空间和网络结构维度上实现分组计算，解决了现有方法的局限性。关键创新包括用于无损转换的分组指数编码（ExpG-IF）模型，以及通过多尺度令牌分组和无乘法运算来降低计算复杂度的分组脉冲自注意力（GW-SSA）机制。实验表明，Ge$^2$mS-T在具有挑战性的基准测试中实现了卓越的性能和超高的能效。
-
新型脉冲神经网络Transformer实现最先进的效率
研究人员推出SAFformer，这是一种新颖的脉冲神经网络Transformer架构，旨在提高视觉数据处理的能效和性能。SAFformer采用受大脑预测编码启发的积极预测滤波范式，主动抑制可预测信号，并专注于显著的视觉特征。这种方法在CIFAR-10/100和CIFAR10-DVS数据集上取得了新的最先进成果，并在ImageNet-1K上以显著减少的参数和能耗实现了可观的准确率。