新的LAD框架为神经网络提供忠实、命名的解释

研究人员推出了一种新颖的的事后框架——语言锚定分解（LAD），旨在为深度神经网络提供可解释的解释，而无需更改原始模型。LAD利用大型语言模型生成概念词汇表，然后使用基于CLIP的相似性将其定位在图像区域内。通过将这些基于语言的映射视为固定约束，LAD学习一个概念基础来重建编码器的激活，确保派生的概念既忠实于模型的行为又易于人类理解。在各种基准测试上的实验表明，LAD能够产生空间精确且与决策相关的解释。 AI

影响 通过提供可解释且忠实的解释，使AI在高风险视觉应用中的部署更值得信赖。

排序理由 该集群包含一篇研究论文，详细介绍了一种解释深度神经网络行为的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

• Ahsan Habib Akash
• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Hugging Face
• Language-Anchored Decomposition
• non-negative matrix factorization
• ScienceCast

• 论文
• 其他

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →