研究人员开发了一种事件触发隐式扰动(IPZO)架构,以提高在内存计算(IMC)加速器上微调脉冲神经网络(SNN)的效率。这种新方法消除了冗余的读-改-写操作,并通过仅为激活的权重生成扰动来减小随机数生成器的硬件占用空间。IPZO架构,特别是采用PGU-XOR方案时,在能耗和面积开销方面与之前的扰动方法相比显著降低,同时实现了与基于软件的方法相当的准确性。 AI
影响 这项研究可能带来更高效的专用神经网络训练硬件,从而加速依赖事件驱动处理的人工智能应用的进步。
排序理由 该集群描述了一篇详细介绍优化神经网络训练新技术的创新研究论文。
在 arXiv cs.NE (Neural & Evolutionary) 阅读 →
- CIFAR-10
- Implicit Perturbation ZO
- PGU-XOR
- SpikeGPT
- Spikingformer
- Spiking neural networks
- WikiText-2
- Zeroth-order optimization
- Event-triggered Implicit Perturbation
- PGU-Reuse
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →