研究人员开发了一种新的感知感知、基于梯度的脉冲神经网络(SNN)混合精度量化框架。该方法使用一阶梯度信息自适应地分配比特宽度,显著降低了与现有基于海森矩阵的方法(如HAWQ-V2)相关的内存和计算开销。该框架已在多种数据集(如CIFAR10/100、ImageNet和DVS-CIFAR-10)上的各种SNN架构(包括VGG、ResNet和Vision Transformer模型)上进行了评估。值得注意的是,在用于ImageNet的ResNet-34模型上,所提出的方法在实现与HAWQ-V2相当的准确性的同时,大大降低了内存消耗和比特分配运行时,证明了其在节能部署方面的潜力。 AI
影响 在不牺牲性能的情况下,能够更节能地部署用于视觉任务的脉冲神经网络。
排序理由 学术论文,详细介绍了量化脉冲神经网络的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- CIFAR-10
- CIFAR-100
- DVS-CIFAR-10
- Gopalakrishnan Srinivasan
- HAWQ-V2: Hessian Aware trace-Weighted Quantization of Neural Networks
- ImageNet
- residual neural network
- ResNet-34
- Spiking Neural Networks
- Vgg Neural Network
- vision transformer
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →