Shapley value
PulseAugur coverage of Shapley value — every cluster mentioning Shapley value across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的“Local Shapley”方法大幅削减数据评估计算量
研究人员推出了一种名为“Local Shapley”的新型数据评估方法，该方法显著降低了计算复杂度。与考虑所有可能的训练数据组合的传统方法不同，Local Shapley 利用了现代预测模型固有的局部性，仅关注直接影响预测的数据子集。这种方法将评估问题重新构建为结构化数据处理任务，从而为重新训练操作设定了理论下限，并实现了 LSMR 和 LSMR-A 等高效算法。跨不同模型系列的实验结果表明，在保持数据评估高精度的同时，重新训练时间和…
-
新框架使用Shapley值实现数据隐私和效用
研究人员开发了一个新框架，该框架改编了基于Shapley值的特征归因方法，以解决数据隐私问题。该方法在特征层面同时考虑披露风险和数据效用，比现有的数据集级别方法提供了更细粒度的视角。该框架设计为对各种数据屏蔽、统计和机器学习技术保持无关性，实验结果表明其在降低披露风险的同时保持数据效用方面是有效的。
-
新方法准确归因 Adam 优化器中的数据贡献
研究人员开发了一种名为 Adam-Aware In-Run Data Shapley 的新方法，用于准确归因使用 Adam 优化器的机器学习模型中的数据贡献。现有方法依赖于随机梯度下降 (SGD) 的线性结构，但由于 Adam 复杂的动态特性而对其无效。所提出的技术实现了与真实边际贡献近乎完美的保真度，并保持了约 95% 的标准训练吞吐量。这种新方法在下游数据归因任务中的表现明显优于基于 SGD 的基线。
-
新的非线性方法在AI归因方面优于Shapley值
研究人员开发了新的非线性公理归因方法，以解决传统Shapley值存在的局限性，特别是其线性可能掩盖重要参与者贡献的问题。这些受最小核概念启发的新颖方法，旨在通过解决最小化问题来提供更准确的效用函数近似。实验表明，与现有的Shapley值变体相比，这些非线性方法在提高包含AUC指标方面显示出潜力。
-
新框架提议为 LLM 摘要内容提供公平补偿
一篇新的研究论文提出了一个使用 Shapley 值来解决大型语言模型 (LLM) 摘要内容创作者公平补偿问题的框架。该方法称为 Cluster Shapley，通过使用 LLM 嵌入对相似文档进行分组，来近似计算成本高昂的 Shapley 值。此方法旨在确保原创内容创作者在他们提供的信息被用于 LLM 生成的摘要时，能够得到适当的署名和补偿，随着 LLM 越来越多地驱动搜索引擎和 AI 助手，这是一个日益增长的问题。
-
Shapley值增强了金融领域LLM的可解释性
研究人员开发了一种新方法，使用Shapley值来解释大型语言模型（LLM）在金融应用中的行为。该方法旨在使LLM的解释与既定的金融领域知识保持一致，以满足高风险金融行业对可解释性的关键需求。实证评估表明，基于Shapley的归因可以提供与金融推理一致的有意义的见解。
-
新方法使用Shapley值解释区间值数据中的异常
研究人员开发了一种新的方法来解释区间值数据中的异常，填补了当前异常检测技术的空白。该方法利用Shapley值提供对观测值为何被视为异常的详细分解，将其贡献归因于特定变量及其交互作用。该方法提供了细粒度的解释，识别出可能被忽略的特定变量异常。
-
新的DAG-SHAP方法改进了因果AI模型中的特征归因
研究人员推出了一种新颖的有向无环图（DAG）特征归因方法DAG-SHAP，该方法解决了现有基于Shapley值的方法的局限性。与关注单个特征的先前以节点为中心的方法不同，DAG-SHAP将特征边视为归因对象，以更好地捕捉外部性和外源性影响。该方法包括一种高效的计算近似方法，并在合成和真实数据集上的实验证明了其有效性。
-
ShapKAN框架增强KAN的可解释性和压缩性
一个名为ShapKAN的新框架已被开发出来，用于解决剪枝Kolmogorov-Arnold Networks (KANs) 的挑战。该方法利用Shapley值以一种对输入坐标偏移不变的方式评估节点的重要性。通过量化每个节点的真实贡献，ShapKAN提供了比传统基于幅度的剪枝技术更可靠的重要性排名。实验表明，ShapKAN能够有效地压缩KAN，同时保持其可解释性和性能，使其更适用于资源受限的应用。
-
新框架归因文本到图像模型中的数据贡献者价值
研究人员开发了SurrogateSHAP，一个新颖的框架，旨在高效地归因文本到图像模型中数据贡献者的贡献。该方法通过利用预训练模型的推理，避免了为每个数据子集重新训练模型的计算密集型过程。SurrogateSHAP采用梯度提升树来近似效用函数并解析推导出Shapley值，显著降低了计算开销，同时识别了有影响力的数据源。该框架已在图像质量、美学和产品多样性等各种任务中得到验证，并有望用于审计安全关键的生成模型。
-
新AI框架简化专利估值
研究人员开发了PatentXAI，一个旨在解决大型产品组合中单个专利估值复杂问题的创新框架。该框架利用图条件分层Shapley归因，将专利估值视为一项可解释的AI任务。通过关注知识图谱中专利的马尔可夫毯，PatentXAI显著提高了计算的可处理性和效率，即使在专利数量庞大的情况下也能实现快速执行。
-
新方法改进了用于机器学习归因的 Shapley 值近似
研究人员开发了用于近似 Shapley 值的新方法，Shapley 值是机器学习中归因的关键指标。两篇论文介绍了新算法 Adalina 和 ShaplEIG，它们提高了估算这些值（特别是对于大量“参与者”或特征）的效率和准确性。另一篇论文 OddSHAP 为配对采样技术提供了理论依据，并引入了一种利用这一见解实现最先进准确度的新估计器。
-
Shapley 值在传感器异常检测中的分析
一篇新论文分析了使用 Shapley 值进行传感器异常定位，并将其性能与更简单的异常检测方法进行了比较。研究证明，对于独立的传感器观测，Shapley 值方法等同于一种更简单的方法。然而，对于依赖的观测，Shapley 值可能优于或劣于其他方法，具体取决于特定的统计条件，这表明了结合使用方法的潜力。
-
新的Shapley值方法解决了大型语言模型评估中的循环优先级问题
研究人员引入了广义优先感知Shapley值（GPASV），这是一种用于评估复杂系统的新方法，在机器学习领域尤其有用。现有的Shapley值方法在处理非二元或循环优先级数据时存在局限性，而GPASV通过使用任意有向加权优先级图克服了这些局限性。该论文提供了公理化特征、计算方法，并将GPASV应用于使用循环的Chatbot Arena偏好图评估大型语言模型集成，展示了不同的优先级平衡如何产生不同的估值。
-
新的“元游戏”框架量化AI模型解释中的二阶效应
研究人员引入了一个名为“元游戏”的新框架，用于量化模型解释中的二阶交互效应。该框架通过将归因方法视为一个合作博弈并计算其Shapley值，来衡量一个特征的归因对另一个特征的定向影响。元游戏理论上表明归因可以被分层分解为元归因，并在实践中证明了其在分析语言模型中的token交互、视觉-语言模型中的跨模态相似性以及文本到图像Transformer中的概念方面的效用。
-
新的关键集问题识别依赖网络中的关键贡献者
研究人员提出了关键集问题（CriticalSet problem），该问题专注于识别二分依赖网络中最关键的贡献者。这个问题被证明是NP难的，涉及确定哪些贡献者集合被移除后，会隔离最多的项目。为了解决这个问题，开发了一种新的中心性度量方法，称为ShapleyCov，其灵感来源于Shapley值，并被解释为贡献者离开后所隔离的项目数量的期望值。还提出了一种高效的算法MinCov，该算法在包括大型Wikipedia图在内的各种数据集上，其性…