新的InstantForget方法无需重新训练即可解除AI后门

研究人员开发了一种名为InstantForget的新方法，可以在不重新训练模型的情况下移除AI模型中的后门触发器。该技术在推理时运行，通过识别和重置指示后门的异常特征来工作。在CIFAR-10和ResNet-18模型的测试中，InstantForget在保持模型效用的同时，显著降低了各种触发器的平均攻击成功率。 AI

影响 通过在不进行昂贵重新训练的情况下移除后门，为AI模型安全提供了一种新颖的方法。

排序理由 该集群包含一篇详细介绍AI模型安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain
• CIFAR-10
• Hugging Face
• InstantForget
• Mahalanobis distance
• ModelNet10
• ResNet-18

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →