研究人员开发了OCCAM，一个旨在解释黑盒图像分类器决策的新框架。OCCAM通过文本引导识别视觉概念并定位它们，并通过移除概念来衡量其因果影响，以观察模型置信度的变化。这种方法不仅提供每张图像的解释，还诱导结构化的概念本体，以揭示全局模型偏差和概念之间的依赖关系。 AI
影响 提供了一种理解和调试视觉模型的新方法，可能提高信任度并识别偏差。
排序理由 该集群包含一篇详细介绍新AI研究框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
Interpreting the decisions of deep image classifiers remains challenging, particularly in black-box settings where model internals are inaccessible. We introduce OCCAM, a framework for open-set causal concept explanation and ontology induction in vision models. OCCAM discovers vi…