新流水线通过NAS和量化优化边缘AI硬件

研究人员开发了一种新颖的三阶段流水线，用于优化边缘AI部署的神经网络架构，重点关注神经架构搜索（NAS）与训练后量化（PTQ）的相互作用。该流水线包括一个与硬件无关的代理前端、一个带过滤的量化桥梁以及一个用于硬件映射的进化后端。一项实证研究分析了INT4 PTQ如何影响NAS帕累托空间，发现FP32零样本代理在覆盖帕累托空间方面可能优于专用的INT4训练代理。 AI

影响 这项研究通过改善架构搜索和量化技术之间的协同作用，有望在边缘设备上实现更高效、可部署的AI模型。

排序理由 该集群包含一篇学术论文，详细介绍了一种优化边缘AI神经网络架构的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• arXiv
• CGRA4ML
• Edge artificial intelligence
• Eleftherios Mylonas
• Hugging Face
• Int4
• NAS-Bench-201
• Neural architecture search
• Post Training Quantization Preprocessing Method of Convolutional Neural Network via Outlier Removal

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →