研究人员开发了一种名为Tree-of-Evidence (ToE)的新方法，以提高大型多模态模型 (LMMs) 的可解释性。ToE将模型可解释性构建为一个优化问题，使用轻量级的“证据瓶颈”来识别预测的关键数据单元。这种方法在保持高预测性能的同时，允许进行可审计的证据追踪，仅用最少的证据单元就保留了完整模型98%以上的AUROC。 AI
影响 通过揭示支持预测的离散证据单元，为审计多模态模型提供了一个实用的机制。
排序理由 介绍多模态模型可解释性新方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
arXiv:2604.07692v2 Announce Type: replace Abstract: Large Multimodal Models (LMMs) achieve state-of-the-art performance in high-stakes domains like healthcare, yet their reasoning remains opaque. Current interpretability methods, such as attention mechanisms or post-hoc saliency,…