DocXEval

新框架DocXEval评估多模态文档中AI的可解释性

研究人员推出了DocXEval，一个旨在系统评估多模态文档理解模型可解释性的新框架。该框架将现有的可解释人工智能（XAI）方法和指标应用于涉及文本、布局和图像数据的任务，填补了当前XAI研究的空白。通过对13种XAI方法在各种任务、数据集和模型上的广泛评估，研究发现Occlusion在忠实度和可解释性方面表现最佳，同时也识别了潜在的数据集偏差和模态贡献。