研究人员开发了一个新颖的框架,专门用于优化多核边缘加速器的早退神经网络(EENNs)。该框架联合优化网络架构、量化和硬件部署,以提高能效并降低延迟。通过将这些方面整合到统一的神经架构搜索(NAS)过程中,该系统可以识别高效的工作负载映射并提供准确的性能估算。在CIFAR-10上的实验表明,与静态基线相比,能耗-延迟乘积显著降低,凸显了动态推理在边缘设备上协同设计的重要性。 AI
影响 这项研究可能带来更节能、更快速的边缘设备AI部署,从而在实时处理和物联网等领域实现新应用。
排序理由 该集群包含一篇学术论文,详细介绍了一种优化边缘设备神经网络的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- Alaa Zniber
- arXiv
- CIFAR-10
- DagsHub
- early-exiting neural networks
- EENNs
- Hugging Face
- Neural architecture search
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →