Kernel SHAP
PulseAugur coverage of Kernel SHAP — every cluster mentioning Kernel SHAP across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究比较关系数据库的AI解释方法
研究人员开发了一种新方法,用于比较在关系数据库上运行的深度学习模型的不同重要性归因方法。他们的研究分析了这些方法如何对属性进行排名和评分,发现选择会显著影响模型解释。实验表明,解释方法在回归任务和分类任务上的行为不同,分类任务的方法之间共识较少。值得注意的是,基于Shapley的方法和单属性影响通常产生相似的解释,这表明单属性影响可能是计算成本较低的替代方案。
-
新方法为 AI 可解释性提供可证明准确的 Shapley 值估计 · 跟踪 2 个来源
两篇新的 arXiv 论文介绍了用于估计 Shapley 值的高级方法,Shapley 值是可解释 AI 中将模型预测归因于输入特征的关键技术。第一篇论文《通过杠杆分数采样实现可证明准确的 Shapley 值估计》介绍了 Leverage SHAP,这是 Kernel SHAP 的一种修改,它需要的模型评估次数大大减少,并将错误率降低了 50%。第二篇论文《用于 Shapley 值和概率值的回归调整蒙特卡洛估计器》将蒙特卡洛采样与回归…
-
新框架通过不确定性和可解释性增强波动率模型校准
研究人员开发了一种使用神经信息论后验方法校准粗糙Heston模型的新框架。该方法旨在捕捉隐含波动率曲面中的不确定性,而传统神经点校准方法会忽略这一点。该框架提供了校准后的后验样本,可与神经代理定价器结合使用,为奇异期权生成不确定性感知的价格区间,将残余参数不确定性与代理不确定性相结合。此外,还引入了一种名为Hellinger-SHAP的新可解释性方法,该方法使用Kernel SHAP来识别波动率曲面中对单个Heston参数后验信息增益…
-
RelShap框架通过尊重数据关系来增强机器学习解释
研究人员推出了一种新颖的框架RelShap,旨在提高机器学习中基于Shapley值的特征解释的准确性。传统方法常常忽略数据的关系结构,导致误导性的解释。RelShap通过将关系约束和数据溯源整合到计算中来解决这个问题,确保解释忠实于底层数据生成过程。该框架与Kernel SHAP和Monte Carlo等现有估计器兼容,实验表明与Conditional SHAP和ManifoldShap等方法相比,它在识别主导特征方面具有优势。
-
新框架提议为 LLM 摘要内容提供公平补偿
一篇新的研究论文提出了一个使用 Shapley 值来解决大型语言模型 (LLM) 摘要内容创作者公平补偿问题的框架。该方法称为 Cluster Shapley,通过使用 LLM 嵌入对相似文档进行分组,来近似计算成本高昂的 Shapley 值。此方法旨在确保原创内容创作者在他们提供的信息被用于 LLM 生成的摘要时,能够得到适当的署名和补偿,随着 LLM 越来越多地驱动搜索引擎和 AI 助手,这是一个日益增长的问题。