Hyunseung Hwang

新研究发现 SHAP 解释显示出显著变异性

一篇新发表在 arXiv 上的论文详细介绍了 SHAP（一种广泛用于解释 AI 模型决策的方法）中的“解释多样性”现象。研究人员发现，即使在模型、输入和预测在重复运行时保持不变的情况下，SHAP 解释也可能存在显著差异。他们开发了一种评估这种变异性的方法，揭示了解释多样性普遍存在，并且会影响高置信度的预测。研究表明，实践者应将单一的 SHAP 输出视为来自一个分布的一种实现，而不是确定的结果。