Counterfactuals and the Second Law
PulseAugur coverage of Counterfactuals and the Second Law — every cluster mentioning Counterfactuals and the Second Law across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
New research advances causal decision-making in machine learning
本文介绍了结构因果老虎机（structural causal bandits）的进展，这是一种利用因果知识在奖励机制未知时指导探索的方法。该研究将此方法扩展到具有部分已知因果结构、来自其他环境的信息以及反事实行动的场景。主要贡献包括：在马尔可夫等价性下最小干预集的图论标准、寻找可能最优干预集的算法，以及使用部分可迁移性从源分布推导目标奖励界限的方法。该工作还针对实验能力支持的行动，构建了反事实结构因果老虎机，并提供了最小性和可能最优性…
-
新的LUCID指标改进了机器学习中的局部变量重要性评估
研究人员开发了一种新的模型无关指标和估计器，称为LUCID（基于条件密度估计的协变量重要性局部理解），用于评估机器学习模型的局部变量重要性。与可能通过忽略特征依赖性而生成不切实际的反事实的现有方法不同，LUCID使用从完整条件分布中提取的合理值来扰动特征。这种方法确保模型在由观测数据分布支持的区域内进行评估。该方法包括与现有度量的理论联系、具有收敛保证的估计器以及不确定性量化，在模拟和实际应用中均表现出稳定的性能。
-
研究表明反事实存在隐私风险
研究人员证明了用于阐明机器学习模型决策的反事实解释可能会被用于隐私攻击。通过改编为合成数据开发的方法，这些攻击可以在不直接访问模型的情况下推断出有关训练数据的敏感信息。研究结果表明，开发人员在发布反事实时必须更加谨慎，以防止潜在的隐私泄露。