研究人员开发了Spikformer V2,这是一种包含脉冲自注意力机制的新型脉冲神经网络(SNN)。这一进展使SNN能够利用自注意力机制的性能优势,而这在以前的生物学上可行的模型中是不存在的。Spikformer V2还包括一个脉冲卷积干和利用自监督学习进行增强训练,在ImageNet上实现了超过80%的准确率,这是SNN的首次突破。 AI
影响 提升了SNN的能力,有可能为图像识别等任务实现更节能的AI模型。
排序理由 该集群描述了一篇详细介绍脉冲神经网络新模型架构和训练方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- ImageNet
- self-supervised learning
- Spikformer V2
- Spiking Convolutional Stem
- Spiking neural networks
- Spiking Self-Attention
- Spiking Transformer
- Transformer++
- Zhaokun Zhou
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →