研究人员开发了一种新颖的方法,通过训练一个独立的验证器模型来检测人工智能神经网络上的对抗性攻击。该验证器学会识别区分合法输入和对抗性输入的神经网络中的模式或“激活签名”。通过利用这些签名在训练过程中生成具有挑战性的对抗性示例,验证器提高了检测攻击的能力,即使是它以前未见过的攻击,同时知识蒸馏有助于在干净数据上保持性能。该方法在针对 L-infinity 攻击的现有检测器方面表现出显著的改进,尽管其在 L2 攻击等不同扰动类型上的鲁棒性仍需进一步研究。 AI
影响 这项研究可能通过提高对抗性攻击的防御能力,从而带来更强大的 AI 系统。
排序理由 详细介绍神经网络中对抗性攻击检测新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- artificial neural network
- arXiv
- Hugging Face
- knowledge distillation
- L2
- Learning to Verify: Signature-Guided Training for Adaptive Adversarial Detection
- L-infinity attacks
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →