Rustu Erciyes Karakaya

新理论定义了 AI 解释方法的极限

研究人员开发了一个新的理论框架，以理解像 KernelSHAP 和 LIME 这样的基于掩码的 AI 解释方法的局限性。通过将解释过程建模为通过查询通道的通信，他们确定了特征可以被准确识别的信息论极限。研究表明，虽然信息论允许在一定的查询预算内进行可靠的解释，但像 Lasso 和 OLS 这样的标准方法可能仍然会失败，这表明理论可能性与实际实现之间存在差距。