C-VCE

新的扩散模型提供基于概念的可视化反事实解释

研究人员开发了C-VCE，一个新颖的扩散模型框架，旨在为AI预测提供基于概念的可视化反事实解释。与依赖外部、可能脆弱的分类器的先前方法不同，C-VCE将概念瓶颈层直接集成到生成模型中。这使得解释可以由人类可解释的特征来指导，使用户能够切换概念并最小化调整相关图像区域，同时保持整体图像的完整性和特征相关性。该框架包括一个概率正则化器和一个基于梯度的掩码，以确保编辑是小的、受控的，并且仅限于最相关的图像区域，使其成为安全关键应用的更实用工具。