Shapley Values
PulseAugur coverage of Shapley Values — every cluster mentioning Shapley Values across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
新的因果归因分数 (CAS) 增强了人工智能的可解释性
研究人员推出了一种新颖的人工智能因果解释框架——因果归因分数 (CAS)。CAS 的独特之处在于它能够归因干预对现实世界结果的影响，而不仅仅是预测模型输出。该分数架构旨在利用因果 Shapley 贡献来分配联合干预对比，并将这些影响转化为各种 CAS 摘要。在基准模拟和经验数据集的测试中，CAS 在识别处理效应修饰符方面表现优于 SHAP 和 TreeSHAP 等传统预测方法。
-
RelShap框架通过尊重数据关系来增强机器学习解释
研究人员推出了一种新颖的框架RelShap，旨在提高机器学习中基于Shapley值的特征解释的准确性。传统方法常常忽略数据的关系结构，导致误导性的解释。RelShap通过将关系约束和数据溯源整合到计算中来解决这个问题，确保解释忠实于底层数据生成过程。该框架与Kernel SHAP和Monte Carlo等现有估计器兼容，实验表明与Conditional SHAP和ManifoldShap等方法相比，它在识别主导特征方面具有优势。
-
新的ConMem框架改进了LLM对制造日志的检验
研究人员开发了ConMem，一个新颖的记忆框架，旨在提高大型语言模型（LLM）在长时域制造检验任务中的性能。ConMem通过主动估计历史检验日志的诊断价值，而不是将其视为静态语料库，来解决现有系统的局限性。该框架将日志分割成功能性证据单元，使用Shapley风格的估计来确定每个单元对诊断的贡献，并在受限的记忆预算内优先考虑高价值证据。实验表明，与标准的LLM基线相比，ConMem实现了76.0%的QA准确率，显著减少了令牌输入和响应时…
-
新框架通过识别驱动决策的模态来审计多模态大语言模型
研究人员开发了一个名为反事实模态归因（CMA）的新框架，用于评估多模态大语言模型（MLLM）的预测主要由哪种模态（如图像或文本）负责。该方法解决了MLLM可能通过依赖错误证据产生正确输出来掩盖潜在的捷径学习或不安全推理的问题。CMA利用耦合的扩散先验生成反事实，并应用Shapley值量化模态级别的贡献，在受控测试中准确识别驱动决策的模态，并在真实临床数据上优于现有方法。
-
新机制解决机器学习数据归因中的假名操纵问题
研究人员引入了商半值作为一种新颖的机制，以解决机器学习数据归因中的假名操纵问题。该方法旨在通过聚类数据并使用代表性算子来减轻数据集拆分和重复等问题，从而提供更准确的估值。所提出的机制设计为在特定条件下具有假名防范能力，即使在数据来源不完美的情况下也能提供有界的公平性和操纵损失。在DataMarket-Gym基准测试中的初步测试表明，与传统的Shapley值相比，操纵收益显著降低。
-
ConMem框架通过贡献感知记忆提高LLM检验准确性
研究人员开发了ConMem，一个新颖的记忆框架，旨在通过优先处理有价值的历史数据来增强LLM辅助的设备检验。ConMem将检验日志分割成功能单元，并使用类似Shapley的方法估计其诊断贡献。这使得系统能够在受限的记忆预算内保留高价值证据，与标准的LLM基线相比，提高了准确性并显著减少了处理时间。
-
新的信用分配方法增强了AI搜索代理的训练 · 跟踪3个来源
研究人员开发了训练长时搜索代理的新方法，这些代理是为执行复杂的多步任务而设计的AI系统。一种方法ABSeeker使用答案回溯信用分配（ABC）来提供更细粒度的监督，通过评估每个搜索步骤与来自地面真实答案的中间线索。另一种方法BiCAA采用双向信用分配，将前向可解性增益与事后成功关键性相结合，以生成密集的进程奖励。这两种技术都旨在提高训练稳定性并减少搜索增强代理中的冗余操作，ABSeeker在使用较小的模型在BrowseComp等基准测…
-
新的LLM审计方法揭示数据缺陷和可控性问题
两篇新的研究论文探讨了审计和理解大型语言模型（LLM）行为的方法。第一篇论文介绍了一个数据审计流程，该流程使用影响力分数来识别HelpSteer2和Anthropic的HH-RLHF等对齐数据集中存在的错误和矛盾，揭示了当前基准测试完整性方面的缺陷。第二篇论文提出了一种审计LLM可控性的新方法，通过检查模型如何响应意识形态提示，发现模型可以通过系统提示进行高度调整，但表现出不同程度的可控性和饱和度。
-
AI框架通过特征选择优化FDM翘曲检测
研究人员开发了一个自动化数据处理（ADP）框架，用于优化机器学习模型和特征选择，以预测熔融沉积成型（FDM）中的翘曲。该框架采用受强化学习启发的的方法，在大量数据集上评估模型-特征组合，并根据预测准确性和F1分数更新选择。通过整合基于Shapley的可解释AI（SHAP XAI）来评估特征重要性，ADP框架成功识别出最优配置，将测试集的AUC从0.9248提高到0.9731，并将平均奖励提高了50%以上（与使用所有特征相比）。
-
新框架使用 Shapley 值归因大型语言模型推理路径贡献
研究人员开发了一个名为 Parallel Shapley 的新强化学习框架，以解决大型语言模型（LLMs）多步推理中的奖励归因挑战。该方法将每个推理路径视为合作博弈中的一个参与者，使用 Shapley 值量化个体贡献，并使用带有蒙特卡洛采样的生成奖励模型进行有效近似。在数学推理基准上的实验表明，与现有方法相比，Parallel Shapley 能够实现更稳定和可解释的训练，有效识别和惩罚冗余或有害的推理路径。
-
MinShap框架为机器学习中的特征选择提供新方法
研究人员推出MinShap，一个旨在识别机器学习模型中重要且不冗余特征的新框架。与平均特征贡献的传统Shapley值方法不同，MinShap使用最小值来聚合特征贡献。这种方法测试特征在各种条件上下文中的相关性，为特征选择和可解释性提供了一个有原则的标准。该框架包含具有统计保证的可扩展算法，旨在提供比现有模型无关技术更准确、更稳定的特征选择。
-
新分类法统一可解释AI特征归因方法
一篇新发表在arXiv上的调查论文介绍了一种用于局部加性特征归因方法的数学分类法，这对于可解释AI至关重要。该论文基于五个关键的规范选择，将Shapley、基于路径和基于梯度的方法等各种方法组织在一个通用框架下。它还详细介绍了常见的故障模式，并提出了一个包含十项内容的报告清单，以确保归因结果的透明度和可比性。
-
新研究解决多模态学习中的模态鸿沟和鲁棒性问题
两篇新研究论文探讨了通过解决模态鸿沟和鲁棒性挑战来改进多模态学习的方法。第一篇论文介绍了xNCE，一种对比学习的改进方法，它使用跨模态和模态内负样本来减小图像和文本嵌入中的模态鸿沟。第二篇论文提出了ShapKO，一种动态训练策略，该策略根据验证效用自适应地学习特定模态的剔除概率，以增强多模态医学模型的鲁棒性。
-
新研究揭示机器学习中的数据估值失真
一篇题为“Validation-Induced Shapley Shifts: How Validation Structure Distorts Data Valuation”的新研究论文发布在arXiv上，该论文强调了机器学习数据估值方面的一个重大漏洞。研究表明，即使对验证集进行微小的改动，例如添加噪声，也会导致Shapley值（用于归因训练数据重要性的指标）发生显著变化。这种失真归因于一种由噪声引起的邻域重排效应，该效应使数据估…
-
新方法衡量时间序列预测模型中的滞后相关性
研究人员引入了一种新颖的方法来评估用于单变量时间序列预测的机器学习模型中的滞后相关性。该方法利用了诸如Ghost variables和Shapley values等框架，并结合了加性重要性度量来定义自相关函数（auto-relevance）和部分自相关函数（partial auto-relevance）。此外，还提出了一种新技术，用同一模型生成的一步预测来替换基于联盟的方法中的缺失特征。通过模拟和真实世界数据分析，并利用季节性ARMA…
-
OperatorSHAP 为神经算子提供快速、准确的 Shapley 值估计
研究人员开发了 OperatorSHAP，一种用于估计神经算子中 Shapley 值的新颖方法。该方法解决了现有可解释性技术（如 FastSHAP）的计算成本和输入限制问题，特别适用于涉及不规则数据网格的应用。OperatorSHAP 提供了一种与网格无关的归因方法和一种与 Aumann-Shapley 值相关联的训练程序，在不同分辨率和网格大小下，无需重新训练即可与离散 Shapley 值保持一致。
-
新的 Shapley 启发式 k-均值算法增强了特征加权
研究人员开发了 SHARK（Shapley Reweighted k-means），一种新颖的聚类算法特征加权方法，无需额外的超参数调优。该方法利用合作博弈论中的 Shapley 值来评估特征相关性，为无监督特征重要性提供了公理基础。SHARK 根据特征的 Shapley 贡献迭代调整特征权重，有效地强调信息维度并弱化不相关维度。实验表明，SHARK 在准确性和鲁棒性方面，尤其是在噪声数据集上，能够媲美甚至超越现有方法。
-
新的优先级感知Shapley值方法增强了AI数据估值
研究人员推出了一种新的数据估值和特征归因方法——优先级感知Shapley值（PASV），该方法解决了传统Shapley值的局限性。PASV结合了优先约束和贡献者特定的优先级权重，能够更细致地分配贡献。该方法具有自然公理和高效的Metropolis-Hastings采样器，可实现可扩展的估计。在MNIST、CIFAR-10和Census Income等数据集上的实验表明，PASV能够产生更符合结构分配并实现实际敏感性分析。
-
新的RuleSHAP框架增强了流行病学数据的机器学习推理能力
研究人员开发了一个名为RuleSHAP的新框架，以改进流行病学中机器学习模型的统计推理。该框架整合了贝叶斯回归、树集成和Shapley值，为特征效应提供不确定性量化，这在当前的机器学习应用中常常缺失。RuleSHAP可以检测非线性和交互效应，提供个体层面的不确定性估计，并已在模拟数据和流行病学队列研究中得到验证，用于识别与高胆固醇和血压相关的效应。
-
新框架解码视听语音识别中的模态贡献
研究人员开发了 Dr. SHAP-AV，一个利用 Shapley 值分析视听语音识别模型如何平衡声学和视觉信息的框架。在六个模型和不同噪声水平下的实验表明，虽然模型在嘈杂条件下会增加视觉依赖性，但音频贡献仍然很重要。分析还揭示了模态平衡在语音生成过程中会发生变化，并且信噪比是模态加权的主要驱动因素，这表明当前模型存在持续的音频偏见。