研究人员开发了一种新方法来解决对抗性训练中的灾难性过拟合问题，这是一个常见问题，模型在这种问题下对单步攻击具有鲁棒性，但却无法应对更复杂的攻击。所提出的解决方案侧重于控制 $l^p$ 训练范数，其灵感来源于 $l^2$ 范数比 $l^{\infty}$ 范数更不容易出现此问题的观察结果。通过使用参与率和熵度量来分析梯度集中度，创建了一种自适应 $l^p$-FGSM 攻击，该攻击动态调整训练范数。据报道，这种方法在不需要额外正则化或噪声注入的情况下，实现了具有竞争力的鲁棒性。 AI
影响 引入了一种新颖的、具有理论依据的方法，可以在不增加复杂性的情况下提高模型对对抗性攻击的鲁棒性。
排序理由 该集群包含一篇详细介绍机器学习问题新颖技术方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- adversarial training
- catastrophic overfitting
- Fares B. Mehouachi
- Fast Gradient Sign Method
- $l^2$ norm
- $l^{\infty}$ norm
- $l^p$-FGSM
- $l^p$ norm
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
