Věra Kůrková

新理论量化深度ReLU网络的鲁棒性

研究人员开发了一个理论框架，用于理解深度ReLU神经网络在面对随机输入扰动时的鲁棒性。该研究通过运用高维几何和对ReLU网络输入-输出函数几何结构的新表征，推导出了局部鲁棒性的下界。一个关键发现是，无论深度或架构如何，由ReLU网络引起的输入空间划分的面数受限于网络单元的数量。该分析还表征了局部鲁棒性如何随输入维度扩展，并识别了最容易受到对抗性示例影响的输入集，表明脆弱区域随维度增加而迅速缩小。