基于概念的可解释人工智能揭示深度神经网络的弱点和数据集偏差

研究人员探索了使用基于概念的可解释人工智能（CXAI）方法来理解多标签图像分类中深度神经网络（DNN）的学习弱点和偏差。通过在 MS-COCO 数据集上训练 VGG16 和 ResNet50 模型，并应用 CRP 和 CRAFT 等 CXAI 技术，研究发现更高的概念区分度可以减少标签和概念中的混淆。分析还强调了数据集中环境概念如何暴露模型固有的偏差。 AI

影响 提供了诊断和潜在缓解人工智能模型偏差的方法，这对于可信赖的人工智能部署至关重要。

排序理由 学术论文，详细介绍了新的研究方法和发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• arXiv
• Concept Recursive Activation FacTorization
• Concept Relevance Propagation
• CSRP1
• Microsoft Common Objects in Context
• Ms Coco
• ResNet50
• Vgg16

• 论文
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →