Shapley Values
PulseAugur coverage of Shapley Values — every cluster mentioning Shapley Values across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新研究揭示机器学习中的数据估值失真
一篇题为“Validation-Induced Shapley Shifts: How Validation Structure Distorts Data Valuation”的新研究论文发布在arXiv上，该论文强调了机器学习数据估值方面的一个重大漏洞。研究表明，即使对验证集进行微小的改动，例如添加噪声，也会导致Shapley值（用于归因训练数据重要性的指标）发生显著变化。这种失真归因于一种由噪声引起的邻域重排效应，该效应使数据估…
-
新方法衡量时间序列预测模型中的滞后相关性
研究人员引入了一种新颖的方法来评估用于单变量时间序列预测的机器学习模型中的滞后相关性。该方法利用了诸如Ghost variables和Shapley values等框架，并结合了加性重要性度量来定义自相关函数（auto-relevance）和部分自相关函数（partial auto-relevance）。此外，还提出了一种新技术，用同一模型生成的一步预测来替换基于联盟的方法中的缺失特征。通过模拟和真实世界数据分析，并利用季节性ARMA…
-
OperatorSHAP 为神经算子提供快速、准确的 Shapley 值估计
研究人员开发了 OperatorSHAP，一种用于估计神经算子中 Shapley 值的新颖方法。该方法解决了现有可解释性技术（如 FastSHAP）的计算成本和输入限制问题，特别适用于涉及不规则数据网格的应用。OperatorSHAP 提供了一种与网格无关的归因方法和一种与 Aumann-Shapley 值相关联的训练程序，在不同分辨率和网格大小下，无需重新训练即可与离散 Shapley 值保持一致。
-
新的 Shapley 启发式 k-均值算法增强了特征加权
研究人员开发了 SHARK（Shapley Reweighted k-means），一种新颖的聚类算法特征加权方法，无需额外的超参数调优。该方法利用合作博弈论中的 Shapley 值来评估特征相关性，为无监督特征重要性提供了公理基础。SHARK 根据特征的 Shapley 贡献迭代调整特征权重，有效地强调信息维度并弱化不相关维度。实验表明，SHARK 在准确性和鲁棒性方面，尤其是在噪声数据集上，能够媲美甚至超越现有方法。
-
新的优先级感知Shapley值方法增强了AI数据估值
研究人员推出了一种新的数据估值和特征归因方法——优先级感知Shapley值（PASV），该方法解决了传统Shapley值的局限性。PASV结合了优先约束和贡献者特定的优先级权重，能够更细致地分配贡献。该方法具有自然公理和高效的Metropolis-Hastings采样器，可实现可扩展的估计。在MNIST、CIFAR-10和Census Income等数据集上的实验表明，PASV能够产生更符合结构分配并实现实际敏感性分析。
-
新的RuleSHAP框架增强了流行病学数据的机器学习推理能力
研究人员开发了一个名为RuleSHAP的新框架，以改进流行病学中机器学习模型的统计推理。该框架整合了贝叶斯回归、树集成和Shapley值，为特征效应提供不确定性量化，这在当前的机器学习应用中常常缺失。RuleSHAP可以检测非线性和交互效应，提供个体层面的不确定性估计，并已在模拟数据和流行病学队列研究中得到验证，用于识别与高胆固醇和血压相关的效应。
-
新框架解码视听语音识别中的模态贡献
研究人员开发了 Dr. SHAP-AV，一个利用 Shapley 值分析视听语音识别模型如何平衡声学和视觉信息的框架。在六个模型和不同噪声水平下的实验表明，虽然模型在嘈杂条件下会增加视觉依赖性，但音频贡献仍然很重要。分析还揭示了模态平衡在语音生成过程中会发生变化，并且信噪比是模态加权的主要驱动因素，这表明当前模型存在持续的音频偏见。
-
New Shapley Value method explains multimodal AI models
研究人员开发了一种新颖的 Shapley 值扩展方法，用于解释多模态多语言模型（MLLMs）的行为。该框架通过将文本和音频数据视为合作特征并采用高效的估计策略以实现计算可行性，来解决整合文本和音频数据所面临的挑战。该方法包括一种新的预处理方法 Spectrogram-Guided Phonetic Alignment (SGPA)，用于将音频片段与文本对齐，并提供了一个带有 GUI 的开源软件包用于可视化。在 VoiceBench 和…
-
新的Aumann-SHAP框架通过反事实几何解释机器学习决策
研究人员开发了Aumann-SHAP，一个通过分析反事实交互来解释机器学习模型决策的新框架。该方法通过关注基线特征和反事实特征之间的局部超立方体来分解变化，将其离散化为网格以形成合作博弈。应用于该博弈的Shapley和LES值提供了几何感知的归因，该归因收敛于集成梯度极限，并且可以高效计算。
-
Shapley组合为多类别AI预测解释提供新方法
研究人员引入了一种名为Shapley组合的新方法，用于解释多类别机器学习模型的概率预测。该方法将传统上用于标量预测的Shapley值概念扩展到处理多类别概率分布的复杂组合性质。通过利用组合数据分析中的Aitchison几何，Shapley组合提供了一种独特且公理化的方法来量化单纯形上的特征贡献，从而为多类别预测提供更准确的解释。
-
新的FedMTFI架构提升联邦学习准确性
研究人员推出FedMTFI，一种旨在改善异构环境中联邦学习的新架构。该方法根据相似的硬件和模型类型对客户端进行聚类，使每个集群能够在非IID数据上训练专门的模型。然后，服务器将这些模型聚合为充当全局学生模型的教师的原型，并通过使用Shapley值进行特征重要性加权来增强，以提高准确性和可解释性。
-
新方法改进了用于机器学习归因的 Shapley 值近似
研究人员开发了用于近似 Shapley 值的新方法，Shapley 值是机器学习中归因的关键指标。两篇论文介绍了新算法 Adalina 和 ShaplEIG，它们提高了估算这些值（特别是对于大量“参与者”或特征）的效率和准确性。另一篇论文 OddSHAP 为配对采样技术提供了理论依据，并引入了一种利用这一见解实现最先进准确度的新估计器。
-
新的MVP-Shapley框架使用Shapley值评估球员贡献
研究人员开发了一个名为MVP-Shapley的新框架，用于评估篮球比赛中的最有价值球员（MVP），特别是在电子竞技和在线游戏领域。该方法利用逐场比赛数据来处理特征、训练胜负模型，并分配Shapley值，根据球员的贡献进行排名。该算法经过优化，以符合专家投票结果，并已使用NBA和Dunk City Dynasty数据集进行了验证，并在行业中成功在线部署。
-
新研究推动图表示学习和Shapley值计算
研究人员正在开发先进的图表示学习方法，重点是提高泛化能力和效率。SPG等新模型旨在解析光谱响应，并使用原型引导传播进行跨图迁移。TIDFormer通过有效建模时态和交互动态来增强动态图Transformer。此外，正在探索TN-SHAP-G和其他张量网络方法，以有效地计算图结构数据的Shapley值和交互，解决了传统方法的扩展性问题。
-
新方法应对机器学习数据归因中的假名操纵
研究人员开发了一种名为商半值机制的新数据归因方法，以应对机器学习中的假名操纵。该方法解决了贡献者可能通过使用不同身份复制或创建合成示例来夸大其数据贡献的问题。该机制在基于证据的数据簇上计算归因值，吸收重复数据，并提供更可靠的贡献度量，尤其是在数据来源不完美的情况下。
-
QuadraSHAP 为产品博弈提供稳定、可扩展的 Shapley 值
研究人员开发了 QuadraSHAP，一种在产品博弈中高效计算 Shapley 值的新颖方法，产品博弈在机器学习可解释性中很常见。该技术将复杂的计算简化为一个积分，允许使用 Gauss-Legendre 积分方案进行精确或近乎精确的近似。与现有方法相比，即使在特征数量很多的情况下，这种方法也更快、数值更稳定。
-
Quadrature-TreeSHAP 提供更快、更稳定的AI模型解释
研究人员开发了Quadrature-TreeSHAP，一种用于解释树集成预测的新颖方法，该方法独立于深度，并且比现有方法更具数值稳定性。这项新技术自然地扩展到高阶Shapley交互值，并利用基于求积的重构来实现高效计算。实证评估表明，Quadrature-TreeSHAP在Shapley值和交互计算的速度方面均显著优于TreeSHAP和GPUTreeSHAP。
-
研究人员开发用于老年人跌倒检测的稳定、可解释的AI
研究人员开发了一种新的基于骨骼的跌倒检测框架，该框架使用一种称为T-SHAP的时间稳定归因机制。该方法通过提供运动动力学的稳定且有意义的解释，增强了用于老年人监测的AI模型的可解释性。该系统实现了高精度和低延迟，使其适用于实时应用，并且其解释突出了与跌倒相关的生物力学相关模式。
-
新的统计学视角改进了AI的概率价值估计
研究人员开发了一种新的统计学视角来理解和改进概率价值估计方法。他们的工作识别出现有估计器中普遍存在的一阶误差结构，该结构受采样定律和代理函数的影响。基于此，他们提出了一种效率感知代理调整估计器（EASE），旨在最小化均方误差，并展示出优于当前最先进技术的性能。
-
新框架在预算组合多臂老虎机中使用 K-Shapley 值实现精英公平
研究人员为在具有全老虎机反馈的预算组合多臂老虎机中实现精英公平性引入了一个新颖的框架。这种新方法将 Shapley 值概念扩展到 K-Shapley 值，它量化了代理在有限集合大小内的边际贡献。提出的 K-SVFair-FBF 算法自适应地估计此 K-Shapley 值，在与联邦学习和社会影响力最大化相关的数据集上展示了改进的公平性和性能。