English(EN) EvoXplain: When Machine Learning Models Agree on Predictions but Disagree on Why -- Measuring Mechanistic Multiplicity Across Training Runs

EvoXplain框架揭示机器学习模型解释不一致

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-07 04:00

研究人员开发了EvoXplain，这是一个旨在评估机器学习模型生成解释一致性的新框架。该工具研究不同的训练运行和模型选择过程是否会导致相似的底层逻辑或不同的机制，即使在预测性能很高的情况下也是如此。EvoXplain分析解释本身的结构，而不是聚合的预测，以揭示共识解释可能不反映任何单一训练模型的推理。在使用逻辑回归和梯度提升树对癌症基因组学数据进行的初步评估中发现，尽管准确性保持很高，但在不同的训练管道中，甚至在简单的调优步骤中，解释结构也存在显著差异。 AI

影响强调了对解释性方法的需求，这些方法能够解释机器学习模型中的机制多重性，尤其是在科学应用中。

排序理由该集群包含一篇研究论文，详细介绍了分析机器学习模型解释的新框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Chama Bensmail · 2026-07-07 04:00

EvoXplain: When Machine Learning Models Agree on Predictions but Disagree on Why -- Measuring Mechanistic Multiplicity Across Training Runs

arXiv:2512.22240v5 Announce Type: replace-cross Abstract: Machine learning models are primarily judged by predictive performance, especially in applied genomics, where explanations are read as biological findings. In practice, reported gene panels are stabilised by averaging, ran…

报道来源 [1]

EvoXplain: When Machine Learning Models Agree on Predictions but Disagree on Why -- Measuring Mechanistic Multiplicity Across Training Runs

相关实体

相关话题