Permutation Feature Importance
PulseAugur coverage of Permutation Feature Importance — every cluster mentioning Permutation Feature Importance across labs, papers, and developer communities, ranked by signal.
-
AI Methods Compared for Interpreting EEG Models in Depression Detection
一篇新研究发布在arXiv上，探讨了多种事后可解释AI（XAI）方法，用于解释用于检测重度抑郁症（MDD）的黑盒脑电图（EEG）模型。研究人员将DeepSHAP、Integrated Gradients、GradCAM、Occlusion和Permutation Feature Importance等技术应用于InceptionTime架构。分析显示，归因模式部分重叠，特别是在右半球的特定EEG区域反复出现。虽然一些方法显示出一致性，…
-
新的 FAMeX 算法在 AI 可解释性方面优于 SHAP 和 PFI
研究人员推出了一种名为 FAMeX 的新型算法，旨在提高人工智能系统的可解释性。这项新技术采用一种称为特征关联图 (FAM) 的图论方法来模拟特征之间的关系。实验表明，在确定分类任务的特征重要性方面，FAMeX 的表现优于置换特征重要性 (PFI) 和 SHapley Additive exPlanations (SHAP) 等现有方法。
-
新框架增强了光谱数据分析中人工智能的可解释性
研究人员开发了 Spectral Model eXplainer (SMX)，这是一个旨在提高化学计量学和光谱学中使用的机器学习模型可解释性的新框架。与关注单个变量的现有方法不同，SMX 分析具有化学意义的光谱区域。该框架使用 PCA 总结区域，通过子采样估计谓词相关性，并使用有向加权图聚合排名。SMX 在八个真实世界的光谱数据集上进行了测试，包括来自 X 射线荧光和伽马射线光谱的数据。