新方法通过内部频谱分析检测神经网络故障

研究人员发现了一种称为“频谱漂移”的现象，其中神经网络的错误分类表现出内部激活特征不稳定性，而在输出层并不明显。这种频谱特征在内部处理过程中出现，但在最终输出中被掩盖，使得基于置信度的检测方法难以奏效。为解决此问题，开发了一个名为“自检测神经网络”（SDNN）的框架，该框架利用短时傅里叶变换和小波分解等频谱分析技术来监测网络内部动态。在CIFAR-10上的实验表明，SDNN的AUROC显著高于传统的基于置信度的基线方法。 AI

影响 这项研究提供了一种通过内部检测故障来提高神经网络可靠性的新颖方法，有望带来更强大的AI系统。

排序理由 学术论文，详细介绍了检测神经网络故障的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• CIFAR-10
• Energy Score
• MaxSoftmax
• Self-Detecting Neural Networks
• Short-Time Fourier Transform

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →