Eleftherios Mylonas

新流水线通过NAS和量化优化边缘AI硬件

研究人员开发了一种新颖的三阶段流水线，用于优化边缘AI部署的神经网络架构，重点关注神经架构搜索（NAS）与训练后量化（PTQ）的相互作用。该流水线包括一个与硬件无关的代理前端、一个带过滤的量化桥梁以及一个用于硬件映射的进化后端。一项实证研究分析了INT4 PTQ如何影响NAS帕累托空间，发现FP32零样本代理在覆盖帕累托空间方面可能优于专用的INT4训练代理。