Self-Detecting Neural Networks

新方法通过内部频谱分析检测神经网络故障

研究人员发现了一种称为“频谱漂移”的现象，其中神经网络的错误分类表现出内部激活特征不稳定性，而在输出层并不明显。这种频谱特征在内部处理过程中出现，但在最终输出中被掩盖，使得基于置信度的检测方法难以奏效。为解决此问题，开发了一个名为“自检测神经网络”（SDNN）的框架，该框架利用短时傅里叶变换和小波分解等频谱分析技术来监测网络内部动态。在CIFAR-10上的实验表明，SDNN的AUROC显著高于传统的基于置信度的基线方法。