English(EN) EvoXplain: When Machine Learning Models Agree on Predictions but Disagree on Why -- Measuring Mechanistic Multiplicity Across Training Runs

EvoXplain框架揭示机器学习模型解释不一致

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-07 04:00

研究人员开发了EvoXplain，这是一个旨在评估机器学习模型生成解释一致性的新框架。该工具研究不同的训练运行和模型选择过程是否会导致相似的底层逻辑或不同的机制，即使在预测性能很高的情况下也是如此。EvoXplain分析解释本身的结构，而不是聚合的预测，以揭示共识解释可能不反映任何单一训练模型的推理。在使用逻辑回归和梯度提升树对癌症基因组学数据进行的初步评估中发现，尽管准确性保持很高，但在不同的训练管道中，甚至在简单的调优步骤中，解释结构也存在显著差异。 AI

影响强调了对解释性方法的需求，这些方法能够解释机器学习模型中的机制多重性，尤其是在科学应用中。

排序理由该集群包含一篇研究论文，详细介绍了分析机器学习模型解释的新框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇研究论文，详细介绍了分析机器学习模型解释的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 72 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Chama Bensmail · 2026-07-07 04:00

EvoXplain：当机器学习模型在预测上达成一致但对原因持有异议时 -- 跨训练运行的机制多重性测量

arXiv:2512.22240v5 Announce Type: replace-cross Abstract: Machine learning models are primarily judged by predictive performance, especially in applied genomics, where explanations are read as biological findings. In practice, reported gene panels are stabilised by averaging, ran…

本文如何被排名

报道来源 [1]

EvoXplain：当机器学习模型在预测上达成一致但对原因持有异议时 -- 跨训练运行的机制多重性测量

相关实体

相关话题