新框架通过嵌入逃避逻辑来欺骗 AI 可解释性审计员

研究人员开发了一个名为“Crushing the Evidence”的新框架，可以欺骗白盒可解释人工智能（XAI）审计员。这种双重惩罚逃避技术将逃避逻辑直接嵌入模型参数中，使其能够生成平滑的、分布内的预测，从而绕过异常检测方法。在四个基准数据集上的实证评估表明，该框架可以将目标特征归因降低到接近零，同时保持超过 90% 的攻击成功率。 AI

影响 这项研究突显了当前 AI 审计方法的一个重大漏洞，可能影响 AI 系统在敏感领域的可靠性。

排序理由 该集群包含一篇详细介绍 AI 审计新技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• arXiv
• Communities & Crime
• Compas
• German Credit & Investment Corp.
• IEEE-CIS
• Integrated Gradients
• Shap

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →