研究人员展示了一种将统计上不可检测的后门嵌入深度神经网络的方法。这些后门即使在拥有完整模型访问权限的情况下也难以察觉，这意味着在总变异距离方面，被植入后门的模型与诚实训练的模型几乎相同。该后门能够生成基于不变性的对抗性示例，而没有后门的情况下，在多项式时间内证明无法创建这些示例。这项工作凸显了模型训练者和使用者之间显著的权力不平衡。 AI
影响 揭示了深度学习模型中一个根本性的安全漏洞，可能影响AI系统的信任和安全。
排序理由 学术论文，详细介绍了机器学习模型中的一种新型安全漏洞。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
