Natural Jammers

新研究揭示“自然干扰器”会误导深度神经网络

研究人员发现了一种称为“自然干扰器”的现象，其中深度神经网络中的非鲁棒特征会在干净数据上主动误导标准模型。这些先前被认为是机会主义捷径的特征，实际上可以起到对抗作用，导致错误的预测。该研究提出“谱空间锁定”作为其机制，其中高频分量与特定的空间结构对齐以引起干扰。破坏这种锁定可以恢复正确的预测，并且尽管单个干扰器是脆弱的，但整体干扰效应在转换下会重新分布而不是消失。