PatternCAV

新框架增强了深度学习概念可解释性的稳定性

研究人员推出$\alpha$-TCAV，一个旨在提高深度学习可解释性中概念激活向量（CAVs）的统计稳定性和实际效用的新框架。所提出的方法通过用一个平滑的、参数化的函数替换一个不连续的函数，解决了标准TCAV分数的一个基本缺陷，该缺陷可能导致结果不稳定。这种泛化统一了现有的TCAV变体，并为参数调优提供了原则性的指导，有可能以更低的计算成本实现更可靠的概念影响测量。