Shapley Values
PulseAugur coverage of Shapley Values — every cluster mentioning Shapley Values across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
新基准评估脑电图脑机接口的在线适应性
研究人员开发了一个新的基准来评估脑电图（EEG）脑机接口（BCI）模型的在线适应技术。该研究使用顺序（先测试后训练）评估方法，比较了两种流水线系列：公共空间模式（CSP）和基于黎曼协方差的方法。结果表明，对于大多数模型/数据集组合，标签已公开的在线更新显著提高了性能，准确率比固定模型提高了18%。使用Shapley值的进一步分析表明，最近的数据块对模型适应最有价值。
-
新的CHOQOLATE层组织概念瓶颈模型以提高可解释性
研究人员开发了CHOQOLATE，一种用于概念瓶颈模型（CBM）的新型可解释层，它利用2-可加Choquet积分来组织潜在空间。该方法解决了基于CLIP等视觉-语言模型的CBM中概念纠缠的问题，从而实现了更具语义一致性和权重稀疏性的节点。CHOQOLATE在多个数据集上实现了良好的准确性-可解释性权衡，并通过抑制虚假概念来实现偏见缓解，而无需组注释或重新训练。
-
新的LandscapeSHAP方法在拓扑数据分析中分配功劳
研究人员开发了LandscapeSHAP，这是一种用于将机器学习模型预测归因于拓扑数据分析派生的特定特征的新颖方法。该方法专门解决了将功劳分配给持久性图（拓扑数据分析中使用的复杂数据结构）内单个点所面临的挑战。该方法为线性模型提供了精确的解决方案，并为非线性模型提供了高效的蒙特卡洛采样方法，确保基于Shapley值公理的公平功劳分配。
-
新框架优化医疗中心的联邦学习
研究人员开发了自适应贝叶斯伙伴选择（ABPS），一个旨在改善医疗保健领域联邦学习的点对点框架。该方法通过使临床中心能够根据预测效用智能选择协作者来解决数据异质性和概念漂移等挑战。ABPS使用具有Shapley值和上限置信度准则的贝叶斯方法来管理通信成本并避免负迁移，甚至允许在有益时进行有意隔离。使用MIMIC-IV数据进行的院内死亡率预测实验表明，ABPS-X能够以显著降低的通信开销和可变性匹配强大的联邦基线。
-
新研究解决机器学习中的Shapley值估计挑战 · 2篇论文
arXiv上发表的两篇新研究论文提出了一种估计Shapley值的新方法。Shapley值是机器学习中用于特征归因的关键技术。第一篇论文介绍了FUSHAP，该方法旨在通过利用辅助站点来减少方差而不进行插补，以处理具有缺失数据的多站点研究。第二篇论文提出了一种条件Shapley值的半参数推断方法，提供了不确定性量化并解决了特征依赖性问题。与现有方法相比，这两种方法在合成和真实世界数据集中的准确性和偏差减少方面都得到了证明。
-
深度学习与可解释性揭示市场动态
研究人员开发了一种理解复杂金融市场动态的新方法，该方法结合了深度学习和可解释性技术。通过在高频交易数据上训练深度前馈网络，他们识别出传统线性模型所忽略的价格和交易相互作用中的非线性依赖关系。利用Shapley值，该研究揭示了近期交易量和过往收益显著影响价格变动，从而催生了一个更具可解释性的参数化模型，其预测准确性可与深度学习模型相媲美。
-
新对比解释用于人工智能论证框架
研究人员为定量双极论证框架（QBAFs）引入了对比解释，这是一种解释两个论点之间差异而非仅解释一个论点的方法。这种新方法定义了具有一般属性的对比归因函数（CAFs），并探索了使用移除、梯度和Shapley值来实现的方法。该论文展示了这些对比解释在医疗保健和偏见识别等实际应用中的效用。
-
AgentWorld 模拟框架通过个性和对抗性测试评估 AI 代理的可靠性
研究人员推出 AgentWorld，一个旨在评估代理信息检索系统可靠性的新型模拟框架。该框架包含基于大五人格（OCEAN 模型）的个性化用户群体，并提供一致性、故障分类和评分的高级指标。AgentWorld 还配备了对抗性风险分析器，用于量化系统脆弱性并识别主要故障模式，例如工具或基础设施层攻击。
-
新的 qshap 工具可分解梯度提升树的 R²
研究人员推出 qshap，一种用于分解梯度提升决策树中 R² 值的新方法。该工具在 R 和 Python 中可用，通过分析观测值的二次损失来量化单个特征对整体模型性能的贡献。qshap 支持 XGBoost、LightGBM 和 Catboost 等流行的 GBDT 实现，利用高效的 C++ 后端，并为遗忘树提供专门的加速。
-
新的因果归因分数 (CAS) 增强了人工智能的可解释性
研究人员推出了一种新颖的人工智能因果解释框架——因果归因分数 (CAS)。CAS 的独特之处在于它能够归因干预对现实世界结果的影响，而不仅仅是预测模型输出。该分数架构旨在利用因果 Shapley 贡献来分配联合干预对比，并将这些影响转化为各种 CAS 摘要。在基准模拟和经验数据集的测试中，CAS 在识别处理效应修饰符方面表现优于 SHAP 和 TreeSHAP 等传统预测方法。
-
RelShap框架通过尊重数据关系来增强机器学习解释
研究人员推出了一种新颖的框架RelShap，旨在提高机器学习中基于Shapley值的特征解释的准确性。传统方法常常忽略数据的关系结构，导致误导性的解释。RelShap通过将关系约束和数据溯源整合到计算中来解决这个问题，确保解释忠实于底层数据生成过程。该框架与Kernel SHAP和Monte Carlo等现有估计器兼容，实验表明与Conditional SHAP和ManifoldShap等方法相比，它在识别主导特征方面具有优势。
-
新的ConMem框架改进了LLM对制造日志的检验
研究人员开发了ConMem，一个新颖的记忆框架，旨在提高大型语言模型（LLM）在长时域制造检验任务中的性能。ConMem通过主动估计历史检验日志的诊断价值，而不是将其视为静态语料库，来解决现有系统的局限性。该框架将日志分割成功能性证据单元，使用Shapley风格的估计来确定每个单元对诊断的贡献，并在受限的记忆预算内优先考虑高价值证据。实验表明，与标准的LLM基线相比，ConMem实现了76.0%的QA准确率，显著减少了令牌输入和响应时…
-
新框架通过识别驱动决策的模态来审计多模态大语言模型
研究人员开发了一个名为反事实模态归因（CMA）的新框架，用于评估多模态大语言模型（MLLM）的预测主要由哪种模态（如图像或文本）负责。该方法解决了MLLM可能通过依赖错误证据产生正确输出来掩盖潜在的捷径学习或不安全推理的问题。CMA利用耦合的扩散先验生成反事实，并应用Shapley值量化模态级别的贡献，在受控测试中准确识别驱动决策的模态，并在真实临床数据上优于现有方法。
-
新机制解决机器学习数据归因中的假名操纵问题
研究人员引入了商半值作为一种新颖的机制，以解决机器学习数据归因中的假名操纵问题。该方法旨在通过聚类数据并使用代表性算子来减轻数据集拆分和重复等问题，从而提供更准确的估值。所提出的机制设计为在特定条件下具有假名防范能力，即使在数据来源不完美的情况下也能提供有界的公平性和操纵损失。在DataMarket-Gym基准测试中的初步测试表明，与传统的Shapley值相比，操纵收益显著降低。
-
ConMem框架通过贡献感知记忆提高LLM检验准确性
研究人员开发了ConMem，一个新颖的记忆框架，旨在通过优先处理有价值的历史数据来增强LLM辅助的设备检验。ConMem将检验日志分割成功能单元，并使用类似Shapley的方法估计其诊断贡献。这使得系统能够在受限的记忆预算内保留高价值证据，与标准的LLM基线相比，提高了准确性并显著减少了处理时间。
-
新的信用分配方法增强了AI搜索代理的训练 · 跟踪3个来源
研究人员开发了训练长时搜索代理的新方法，这些代理是为执行复杂的多步任务而设计的AI系统。一种方法ABSeeker使用答案回溯信用分配（ABC）来提供更细粒度的监督，通过评估每个搜索步骤与来自地面真实答案的中间线索。另一种方法BiCAA采用双向信用分配，将前向可解性增益与事后成功关键性相结合，以生成密集的进程奖励。这两种技术都旨在提高训练稳定性并减少搜索增强代理中的冗余操作，ABSeeker在使用较小的模型在BrowseComp等基准测…
-
新的LLM审计方法揭示数据缺陷和可控性问题
两篇新的研究论文探讨了审计和理解大型语言模型（LLM）行为的方法。第一篇论文介绍了一个数据审计流程，该流程使用影响力分数来识别HelpSteer2和Anthropic的HH-RLHF等对齐数据集中存在的错误和矛盾，揭示了当前基准测试完整性方面的缺陷。第二篇论文提出了一种审计LLM可控性的新方法，通过检查模型如何响应意识形态提示，发现模型可以通过系统提示进行高度调整，但表现出不同程度的可控性和饱和度。
-
AI框架通过特征选择优化FDM翘曲检测
研究人员开发了一个自动化数据处理（ADP）框架，用于优化机器学习模型和特征选择，以预测熔融沉积成型（FDM）中的翘曲。该框架采用受强化学习启发的的方法，在大量数据集上评估模型-特征组合，并根据预测准确性和F1分数更新选择。通过整合基于Shapley的可解释AI（SHAP XAI）来评估特征重要性，ADP框架成功识别出最优配置，将测试集的AUC从0.9248提高到0.9731，并将平均奖励提高了50%以上（与使用所有特征相比）。
-
新框架使用 Shapley 值归因大型语言模型推理路径贡献
研究人员开发了一个名为 Parallel Shapley 的新强化学习框架，以解决大型语言模型（LLMs）多步推理中的奖励归因挑战。该方法将每个推理路径视为合作博弈中的一个参与者，使用 Shapley 值量化个体贡献，并使用带有蒙特卡洛采样的生成奖励模型进行有效近似。在数学推理基准上的实验表明，与现有方法相比，Parallel Shapley 能够实现更稳定和可解释的训练，有效识别和惩罚冗余或有害的推理路径。
-
MinShap框架为机器学习中的特征选择提供新方法
研究人员推出MinShap，一个旨在识别机器学习模型中重要且不冗余特征的新框架。与平均特征贡献的传统Shapley值方法不同，MinShap使用最小值来聚合特征贡献。这种方法测试特征在各种条件上下文中的相关性，为特征选择和可解释性提供了一个有原则的标准。该框架包含具有统计保证的可扩展算法，旨在提供比现有模型无关技术更准确、更稳定的特征选择。