Counterfactual Explanations in Explainable AI: A Tutorial
PulseAugur coverage of Counterfactual Explanations in Explainable AI: A Tutorial — every cluster mentioning Counterfactual Explanations in Explainable AI: A Tutorial across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新框架统一机器学习中的反事实解释
研究人员提出了一种关于机器学习中反事实解释（CEs）的新视角，超越了传统的最小化距离方法。他们证明，在广义贝叶斯框架下，当使用基于距离的先验时，最小化距离的CE在数学上等同于最大后验（MAP）估计。这种新表述，称为距离先验广义贝叶斯CE（DP-GBCE），允许引入额外的决策规则，包括一种风险规避选项和一种处理模型多重性的方法。该工作还定义了用于评估CE及其相关后验分布的度量，并通过在模拟数据和Google Trends数据上的实验进行了验证。
-
新的基准库标准化了可解释人工智能方法的评估
研究人员推出了CEL（Comprehensive Counterfactual Explanations Library and Benchmark），以应对评估可解释人工智能（xAI）方法所面临的挑战。现有研究在数据划分、模型和指标方面常常缺乏一致性，阻碍了客观比较。CEL提供了一个统一的框架，包含18个数据集和14种反事实方法的实现，能够跨越有效性、覆盖率和合理性等各种指标进行可复现且公平的评估。该基准测试旨在为评估现有方法建立标…
-
新的ConTex框架为时间序列预测提供实时反事实解释
研究人员开发了ConTex，一个用于在时间序列预测中生成反事实解释的新颖框架。与依赖于实例优化之前的方法不同，ConTex将问题重构为学习一个全局一致的干预策略。该方法利用时间上下文编码器和条件编码器，在单次前向传播中生成跨越时间和特征维度的有针对性的、可解释的干预。ConTex展示了最先进的有效性，产生稀疏的反事实，并显著降低了计算成本，使其适用于实时应用。
-
LLM为AI决策生成叙事性解释
一篇新的研究论文介绍了一种名为“XAIstories”的方法，该方法利用大型语言模型为AI决策创建叙事性解释，旨在使复杂的AI输出更容易被普通受众和数据科学家理解。该方法基于SHAP值和反事实解释生成故事，并取得了初步成效，超过90%的受访普通用户认为这些叙事令人信服。数据科学家也认为XAIstories在传达AI见解方面具有价值，并且在图像分类任务中，CFstories被发现比用户自己编写的叙事速度更快，且说服力相当或更强。