Edge vision systems

新研究发现常见的AI防御在边缘视觉系统上失效

一篇新研究论文揭示，标准的对抗性攻击预处理防御在深度可分离卷积神经网络（CNN）上是无效的，而这类网络在边缘视觉系统中很常见。这些先前在残差或Inception类架构上评估过的防御措施，在深度可分离模型上的恢复率很低。然而，该研究也发现了一个对抗性检测的机会，因为预处理会持续干扰干净的预测，而对抗性预测则基本保持不变。该论文认为，标准的图像质量指标在评估防御有效性方面不可靠，并为实践者提供了一个决策框架。