Counterfactual Explanations in Explainable AI: A Tutorial
PulseAugur coverage of Counterfactual Explanations in Explainable AI: A Tutorial — every cluster mentioning Counterfactual Explanations in Explainable AI: A Tutorial across labs, papers, and developer communities, ranked by signal.
-
论文质疑人工智能中的反事实解释在辩护和追索中的作用
一篇新论文探讨了可解释人工智能（AI）中反事实解释（CEs）的局限性，特别是在用于辩护和追索时。研究强调，CEs可能会掩盖机器学习流程中关键的设计和治理选择，例如特征选择、业务需求和模型验证指标。实证实验表明，这些上游决策会显著影响生成的反事实，表明CEs本身并不能完全回答关于决策的关键“为什么”问题。
-
新框架统一时间序列AI解释
研究人员开发了一个名为“modelname”的新框架，用于统一处理时间序列数据的深度学习模型的归因式解释和反事实解释。目前，这两类解释方法通常是孤立研究的，导致归因方法缺乏因果验证和反事实解释不稳定等问题。所提出的框架利用信息瓶颈原理创建了一个单一的目标函数来解决这些局限性，旨在提供更稳定、更忠实的解释。
-
新框架统一机器学习中的反事实解释
研究人员提出了一种关于机器学习中反事实解释（CEs）的新视角，超越了传统的最小化距离方法。他们证明，在广义贝叶斯框架下，当使用基于距离的先验时，最小化距离的CE在数学上等同于最大后验（MAP）估计。这种新表述，称为距离先验广义贝叶斯CE（DP-GBCE），允许引入额外的决策规则，包括一种风险规避选项和一种处理模型多重性的方法。该工作还定义了用于评估CE及其相关后验分布的度量，并通过在模拟数据和Google Trends数据上的实验进行了验证。
-
新的基准库标准化了可解释人工智能方法的评估
研究人员推出了CEL（Comprehensive Counterfactual Explanations Library and Benchmark），以应对评估可解释人工智能（xAI）方法所面临的挑战。现有研究在数据划分、模型和指标方面常常缺乏一致性，阻碍了客观比较。CEL提供了一个统一的框架，包含18个数据集和14种反事实方法的实现，能够跨越有效性、覆盖率和合理性等各种指标进行可复现且公平的评估。该基准测试旨在为评估现有方法建立标…
-
新的ConTex框架为时间序列预测提供实时反事实解释
研究人员开发了ConTex，一个用于在时间序列预测中生成反事实解释的新颖框架。与依赖于实例优化之前的方法不同，ConTex将问题重构为学习一个全局一致的干预策略。该方法利用时间上下文编码器和条件编码器，在单次前向传播中生成跨越时间和特征维度的有针对性的、可解释的干预。ConTex展示了最先进的有效性，产生稀疏的反事实，并显著降低了计算成本，使其适用于实时应用。
-
LLM为AI决策生成叙事性解释
一篇新的研究论文介绍了一种名为“XAIstories”的方法，该方法利用大型语言模型为AI决策创建叙事性解释，旨在使复杂的AI输出更容易被普通受众和数据科学家理解。该方法基于SHAP值和反事实解释生成故事，并取得了初步成效，超过90%的受访普通用户认为这些叙事令人信服。数据科学家也认为XAIstories在传达AI见解方面具有价值，并且在图像分类任务中，CFstories被发现比用户自己编写的叙事速度更快，且说服力相当或更强。