Shapley value
PulseAugur coverage of Shapley value — every cluster mentioning Shapley value across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新的博弈论方法为特征归因提供稳定性区间
研究人员引入了一个新的框架来理解机器学习模型的特征归因,超越了单一数值解释,纳入了联盟动力学。该方法利用博弈论的概念,如核(core)、核仁(nucleolus)和议价集(bargaining set),来定义特征归因的“稳定性区间”。这些区间代表了特征贡献的可能分配范围,提供了对模型行为更细致的看法,尤其是在多重共线性或复杂交互的情况下。
-
新框架整合Shapley值以衡量和解释不公平性
一个新框架通过利用Shapley值整合了机器学习中的公平性和可解释性。这种方法允许衡量和解释不公平性,识别导致不公平性的特征。该方法已在Census Income数据集上进行了演示,表明与传统的Bootstrap检验相比,'年龄'、'工作小时数'和'婚姻状况'对性别不公平性的贡献更有效。
-
新方法改进了用于人工智能可解释性的 Shapley 值计算
研究人员开发了一种新的基于采样的方法,可以更有效地计算 Shapley 值,Shapley 值是用于解释人工智能模型的指标。该方法利用了 Owen 对博弈的多元线性扩展,并将分层采样与联盟杠杆分数相结合。实验表明,该方法在保持人工智能解释准确性的同时,显著降低了计算成本。
-
新方法LEDGER估算检索系统中的内存价值
一篇新论文介绍了一种名为LEDGER的方法,旨在解决top-k检索系统中的一个局限性:仅凭检索日志无法确定单个内存的确切价值。研究强调,即使有大量日志,标准的top-k检索也无法确定内存价值。LEDGER利用Shapley值来估算已确定的内存价值,并提出能够最大化这些价值确定的检索策略。在内存基准测试中,LEDGER显著增加了已确定内存的比例,尽管在某些任务上的准确性略有下降。
-
新方法改进了计算机视觉模型的特征归因
研究人员开发了一种新的机器学习特征归因方法,专门解决计算机视觉中的挑战,在计算机视觉中特征可能充当上下文干扰项。所提出的方法基于Shapley值和最小核,旨在为模型预测提供更稳定可靠的解释。在Salient ImageNet上进行的实验证明了该技术在处理这些干扰特征方面的有效性。
-
神经切线核分析揭示PDF训练动力学
研究人员使用应用于源自深度非弹性散射(DIS)数据的部分子分布函数(PDF)的神经切线核(NTK)方法,分析了前馈神经网络的训练动力学。该方法提供了对数据和方法如何影响训练的分析视图,将先前单一风味(flavor)的分析推广到多风味场景。研究表明,基于梯度的优化和参数化通过增量包含NTK模式来充当确定PDF的病态反问题的正则化器。值得注意的是,仅需少数领先的NTK模式即可准确重建目标PDF,而噪声则由训练后期学习到的次领先模式捕获。
-
新的光谱空间解释方法增强了AI模型的可解释性
研究人员推出了一种新颖的光谱空间解释(SSI)方法,用于解释AI模型在多光谱图像数据上的行为。与提供单独的空间热图或全局通道分数的传统方法不同,SSI生成一个完整的光谱空间归因矩阵。这种方法解决了在多光谱数据集中,通道相关性通常是空间局部化且具有物理意义的局限性。SSI在各种数据集上取得了卓越的性能,优于现有估计器,同时使用的评估预算显著减少。
-
新的扩散模型优化城市流动监测与传感器放置
研究人员开发了Diff-SPORT,一个新颖的基于扩散的模型框架,用于优化城市环境中的传感器放置和重建湍流。该方法利用生成式扩散先验结合最大后验推理和Shapley值归因,以实现高保真度的流动重建和高效的传感器放置。与传统的RANS或LES模拟相比,Diff-SPORT表现出显著更快的性能,为可扩展的城市流动监测和空气质量管理提供了一种零样本(zero-shot)的替代方案。
-
新研究解决机器学习中的Shapley值估计挑战 · 2篇论文
arXiv上发表的两篇新研究论文提出了一种估计Shapley值的新方法。Shapley值是机器学习中用于特征归因的关键技术。第一篇论文介绍了FUSHAP,该方法旨在通过利用辅助站点来减少方差而不进行插补,以处理具有缺失数据的多站点研究。第二篇论文提出了一种条件Shapley值的半参数推断方法,提供了不确定性量化并解决了特征依赖性问题。与现有方法相比,这两种方法在合成和真实世界数据集中的准确性和偏差减少方面都得到了证明。
-
新的“Local Shapley”方法大幅削减数据评估计算量
研究人员推出了一种名为“Local Shapley”的新型数据评估方法,该方法显著降低了计算复杂度。与考虑所有可能的训练数据组合的传统方法不同,Local Shapley 利用了现代预测模型固有的局部性,仅关注直接影响预测的数据子集。这种方法将评估问题重新构建为结构化数据处理任务,从而为重新训练操作设定了理论下限,并实现了 LSMR 和 LSMR-A 等高效算法。跨不同模型系列的实验结果表明,在保持数据评估高精度的同时,重新训练时间和…
-
新框架使用Shapley值实现数据隐私和效用
研究人员开发了一个新框架,该框架改编了基于Shapley值的特征归因方法,以解决数据隐私问题。该方法在特征层面同时考虑披露风险和数据效用,比现有的数据集级别方法提供了更细粒度的视角。该框架设计为对各种数据屏蔽、统计和机器学习技术保持无关性,实验结果表明其在降低披露风险的同时保持数据效用方面是有效的。
-
新方法准确归因 Adam 优化器中的数据贡献
研究人员开发了一种名为 Adam-Aware In-Run Data Shapley 的新方法,用于准确归因使用 Adam 优化器的机器学习模型中的数据贡献。现有方法依赖于随机梯度下降 (SGD) 的线性结构,但由于 Adam 复杂的动态特性而对其无效。所提出的技术实现了与真实边际贡献近乎完美的保真度,并保持了约 95% 的标准训练吞吐量。这种新方法在下游数据归因任务中的表现明显优于基于 SGD 的基线。
-
新的非线性方法在AI归因方面优于Shapley值
研究人员开发了新的非线性公理归因方法,以解决传统Shapley值存在的局限性,特别是其线性可能掩盖重要参与者贡献的问题。这些受最小核概念启发的新颖方法,旨在通过解决最小化问题来提供更准确的效用函数近似。实验表明,与现有的Shapley值变体相比,这些非线性方法在提高包含AUC指标方面显示出潜力。
-
新框架提议为 LLM 摘要内容提供公平补偿
一篇新的研究论文提出了一个使用 Shapley 值来解决大型语言模型 (LLM) 摘要内容创作者公平补偿问题的框架。该方法称为 Cluster Shapley,通过使用 LLM 嵌入对相似文档进行分组,来近似计算成本高昂的 Shapley 值。此方法旨在确保原创内容创作者在他们提供的信息被用于 LLM 生成的摘要时,能够得到适当的署名和补偿,随着 LLM 越来越多地驱动搜索引擎和 AI 助手,这是一个日益增长的问题。
-
Shapley值增强了金融领域LLM的可解释性
研究人员开发了一种新方法,使用Shapley值来解释大型语言模型(LLM)在金融应用中的行为。该方法旨在使LLM的解释与既定的金融领域知识保持一致,以满足高风险金融行业对可解释性的关键需求。实证评估表明,基于Shapley的归因可以提供与金融推理一致的有意义的见解。
-
新方法使用Shapley值解释区间值数据中的异常
研究人员开发了一种新的方法来解释区间值数据中的异常,填补了当前异常检测技术的空白。该方法利用Shapley值提供对观测值为何被视为异常的详细分解,将其贡献归因于特定变量及其交互作用。该方法提供了细粒度的解释,识别出可能被忽略的特定变量异常。
-
新的DAG-SHAP方法改进了因果AI模型中的特征归因
研究人员推出了一种新颖的有向无环图(DAG)特征归因方法DAG-SHAP,该方法解决了现有基于Shapley值的方法的局限性。与关注单个特征的先前以节点为中心的方法不同,DAG-SHAP将特征边视为归因对象,以更好地捕捉外部性和外源性影响。该方法包括一种高效的计算近似方法,并在合成和真实数据集上的实验证明了其有效性。
-
ShapKAN框架增强KAN的可解释性和压缩性
一个名为ShapKAN的新框架已被开发出来,用于解决剪枝Kolmogorov-Arnold Networks (KANs) 的挑战。该方法利用Shapley值以一种对输入坐标偏移不变的方式评估节点的重要性。通过量化每个节点的真实贡献,ShapKAN提供了比传统基于幅度的剪枝技术更可靠的重要性排名。实验表明,ShapKAN能够有效地压缩KAN,同时保持其可解释性和性能,使其更适用于资源受限的应用。
-
新框架归因文本到图像模型中的数据贡献者价值
研究人员开发了SurrogateSHAP,一个新颖的框架,旨在高效地归因文本到图像模型中数据贡献者的贡献。该方法通过利用预训练模型的推理,避免了为每个数据子集重新训练模型的计算密集型过程。SurrogateSHAP采用梯度提升树来近似效用函数并解析推导出Shapley值,显著降低了计算开销,同时识别了有影响力的数据源。该框架已在图像质量、美学和产品多样性等各种任务中得到验证,并有望用于审计安全关键的生成模型。
-
新AI框架简化专利估值
研究人员开发了PatentXAI,一个旨在解决大型产品组合中单个专利估值复杂问题的创新框架。该框架利用图条件分层Shapley归因,将专利估值视为一项可解释的AI任务。通过关注知识图谱中专利的马尔可夫毯,PatentXAI显著提高了计算的可处理性和效率,即使在专利数量庞大的情况下也能实现快速执行。