FeatureFormer

FeatureFormer预测器改进了边缘设备的神经网络性能估算

研究人员开发了FeatureFormer，这是一种新颖的神经性能预测器，旨在准确估算资源受限的边缘设备上神经网络的延迟和能耗。该预测器在门控图注意力架构中明确纳入了FLOPs、参数计数和内存代理的节点级编码。FeatureFormer在延迟和能耗指标上均展现出最先进的性能，即使在域外场景下也是如此，并且可以以最小的开销改进现有预测器。该研究还引入了NNEQ，这是一个用于评估能耗的新大型数据集。