Ahsan Habib Akash

新框架为 AI 分类器提供忠实、命名的解释

研究人员推出了一种新颖的事后框架——语言锚定分解（LAD），旨在为深度神经网络分类器提供忠实且人类可解释的解释，而无需更改原始模型。LAD 利用大型语言模型提出概念词汇表，然后使用基于 CLIP 的相似性将这些词汇表定位到图像区域。通过固定这些基于语言的映射，LAD 学习一个概念基础来重建模型的激活，确保派生的概念对于决策是相关的，并且在各种成像基准测试中是稳定的。