研究人员开发了一种新颖的内存高效技术GaLe,旨在无需重新训练即可将预训练的神经网络部署到资源受限的嵌入式设备上。该方法将特征图划分为局部精确和全局近似组件,从而支持混合CNN-transformer模型中的全局操作和注意力机制。在ImageNet和Cortex-M33处理器上进行测试时,GaLe实现了高达65%的速度提升和90%的RAM减少,同时保持了与精确推理相当的性能。 AI
影响 这项技术可以显著扩展先进AI模型在计算资源有限的边缘设备上的应用范围。
排序理由 该集群描述了一篇关于AI模型部署新技术的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Alberto Ancilotto
- alphaXiv
- arXiv
- CatalyzeX
- CNN
- Cortex-M33
- DagsHub
- GaLe
- Gotit.pub
- Hugging Face
- ImageNet
- ScienceCast
- Transformer++
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →