GradientSHAP

新方法使用 GradientSHAP 和 LLM 解释 AI 优化建议

研究人员开发了一种新颖的方法，结合使用 GradientSHAP 和隐式微分来解释过程控制优化建议。该方法将基于隐函数定理 (IFT) 的敏感性分析与 SHAP 归因和通过大型语言模型 (LLM) 生成的叙述相结合，以创建操作员可理解的解释。该技术显著加快了 SHAP 归因的计算速度，在一个具有 22 个特征的工业问题上实现了超过 40 倍的加速，同时与 KernelSHAP 保持了高度相关性。