Ahsan Habib Akash

新的LAD框架为神经网络提供忠实、命名的解释

研究人员推出了一种新颖的的事后框架——语言锚定分解（LAD），旨在为深度神经网络提供可解释的解释，而无需更改原始模型。LAD利用大型语言模型生成概念词汇表，然后使用基于CLIP的相似性将其定位在图像区域内。通过将这些基于语言的映射视为固定约束，LAD学习一个概念基础来重建编码器的激活，确保派生的概念既忠实于模型的行为又易于人类理解。在各种基准测试上的实验表明，LAD能够产生空间精确且与决策相关的解释。