研究人员开发了一个新的理论框架，以理解像 KernelSHAP 和 LIME 这样的基于掩码的 AI 解释方法的局限性。通过将解释过程建模为通过查询通道的通信，他们确定了特征可以被准确识别的信息论极限。研究表明，虽然信息论允许在一定的查询预算内进行可靠的解释，但像 Lasso 和 OLS 这样的标准方法可能仍然会失败，这表明理论可能性与实际实现之间存在差距。 AI
影响 为 AI 可解释性设定了理论界限，可能指导更可靠的解释技术的开发。
排序理由 学术论文，详细介绍了 AI 解释方法的新理论框架。 [lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →