SpikingMoE将混合专家模型集成到脉冲驱动的Transformer中

研究人员推出SpikingMoE，一个将脉冲神经网络（SNN）与混合专家（MoE）架构相结合的新颖框架。该方法利用脉冲驱动提示（SDprompt）来实现生物学上合理、依赖输入的信息路由到不同的专家模块。SpikingMoE专为神经形态硬件设计，旨在提高视觉识别任务的能效，同时保持竞争力，在CIFAR-10和CIFAR-100数据集上实现了高精度。 AI

影响 为神经形态硬件上的高能效视觉识别引入了一种新架构，可能影响专业AI应用。

排序理由 发布了一篇详细介绍新颖神经网络架构的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.NE (Neural & Evolutionary) 阅读 →

• CIFAR-10
• CIFAR-100
• Mixture-of-Experts
• SDprompt
• SpikingMoE
• Spiking Neural Networks

• 论文
• 模型发布
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →