Shapley Values
PulseAugur coverage of Shapley Values — every cluster mentioning Shapley Values across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
新框架使用人工智能进行可解释的无人机异常检测
研究人员开发了TGTV,一个用于无人机(UAV)遥测异常检测的新颖框架。该系统集成了时空图学习和大型语言模型来识别和分析故障。TGTV利用时间卷积网络、图注意力网络和Transformer-变分自编码器来提取模式和空间依赖性,从而精确定位导致异常的关键传感器和时间间隔。在ALFA飞行数据集上的实验表明,在窗口级异常检测和飞行级故障诊断方面具有高精度,并为飞行后分析提供了可追溯的证据。
-
新的CoLaX框架为时间序列分类提供上下文感知解释
研究人员推出CoLaX,一个用于为时间序列分类模型生成上下文感知解释的新框架。与以往孤立地关注局部模式的方法不同,CoLaX考虑序列的全局时间上下文来确定局部动机的相关性。这种方法通过在合成基准测试上将AUPRC提高30%以及在真实心电图数据上表现更优来提高解释的准确性。
-
ShapleyOG方法加速了机器学习中Shapley值的估计
研究人员开发了ShapleyOG,一种用于估计机器学习中Shapley值的新颖方法,该方法显著降低了计算开销。通过关注博弈的奇数分量,ShapleyOG所需的观测次数比以前的自适应方法少,同时保持了估计的准确性。这一进步使得自适应Shapley值估计对于评估成本更高、预算更大的博弈变得可行,并且优于最先进的非自适应估计器。
-
新研究比较关系数据库的AI解释方法
研究人员开发了一种新方法,用于比较在关系数据库上运行的深度学习模型的不同重要性归因方法。他们的研究分析了这些方法如何对属性进行排名和评分,发现选择会显著影响模型解释。实验表明,解释方法在回归任务和分类任务上的行为不同,分类任务的方法之间共识较少。值得注意的是,基于Shapley的方法和单属性影响通常产生相似的解释,这表明单属性影响可能是计算成本较低的替代方案。
-
新的TempShap框架为时间序列预测提供详细的特征归因
研究人员推出了一种新颖的时间序列预测模型解释框架TempShap。与将特征视为单一实体的现有方法不同,TempShap分析了时间窗口和预测范围内的单个输入单元。这种方法提供了特征何时具有影响力以及其影响如何随时间变化的详细剖析。该框架通过植入的时间结构、精确的单元博弈和封闭形式的归因预言机进行了验证,证明了其在实际应用以及各种预测基准和模型家族中的有效性。
-
新研究揭示AI车辆轨迹预测模型的缺陷
一篇新发表在arXiv上的研究论文探讨了当前车辆轨迹预测模型的一个关键缺陷:周围智能体的信息反而会降低预测的准确性。研究人员Daniel Jost及其同事利用Shapley值归因方法证明,这些模型学习到了不稳定且非因果的决策机制。为解决此问题,他们提出集成条件信息瓶颈(CIB),以有效压缩和忽略无益的智能体特征,从而提高性能和鲁棒性。
-
新方法精确归因警报分数,即使数据稀疏
研究人员开发了一种新的方法,用于精确归因工业和科学系统中的警报分数,即使事件数据稀少。该方法将警报分数变化建模为 Shapley 博弈,区分结构函数和外生定律的变化,以提供关于每种类型改变如何传播的详细报告。对于特定类型的因果模型和分数,该方法允许在多项式时间内进行精确计算,并且它包括从有限事件数据中估计归因的技术,并带有误差界限和恢复保证。
-
TRIP-Shapley框架改进P2P联邦学习归因
研究人员开发了TRIP-Shapley,一个用于点对点联邦学习(P2PFL)中贡献归因的新框架。该方法解决了DICE等先前方法固有的通信开销和错误报告攻击漏洞。TRIP-Shapley为每一轮独立计算贡献分数,仅传播标量值以保持实际通信成本,同时仍能考虑整个训练过程中的影响。实验表明,与DICE相比,通信节省显著,并且能有效防御错误报告攻击。
-
新AI模型利用社会影响加权预测游客到达量
一项新的研究论文提出了一种混合方法来预测游客到达量,将互联网大数据与博弈论算法相结合,以加权社交媒体意见领袖。该方法使用经验小波变换来管理非平稳属性,并使用堆叠双向长短期记忆网络(通过贝叶斯方法优化)来生成预测。与传统方法相比,该方法在均方根误差方面有了显著降低,即使在波动条件下也表现出鲁棒性。
-
新框架跨多个敏感属性审计AI公平性
研究人员开发了一个新的框架来审计AI模型的公平性,重点关注“多敏感分布公平性”。该方法使用一维Wasserstein几何来同时分析跨多个敏感属性的差异,而不是一次分析一个。该方法区分了条件审计和顺序审计,并引入了一个希尔伯特值随机变量,其方差代表联合差异,从而可以使用Shapley值进行无序归因。
-
新的PRIME方法增强了机器学习中的变量重要性测量
研究人员引入了一种名为比例包容边际效应(PRIME)的新方法来测量机器学习中的变量重要性。PRIME通过采用一种新颖的无模型技术来识别并仅包含活跃变量进行重要性计算,从而解决了基于Shapley的度量和比例边际效应(PME)等先前方法的局限性。该方法旨在提供更准确、更可靠的变量重要性量化,即使在数据嘈杂的情况下也是如此,并且与PME相比具有更低的计算成本。
-
新方法为 AI 可解释性提供可证明准确的 Shapley 值估计 · 跟踪 2 个来源
两篇新的 arXiv 论文介绍了用于估计 Shapley 值的高级方法,Shapley 值是可解释 AI 中将模型预测归因于输入特征的关键技术。第一篇论文《通过杠杆分数采样实现可证明准确的 Shapley 值估计》介绍了 Leverage SHAP,这是 Kernel SHAP 的一种修改,它需要的模型评估次数大大减少,并将错误率降低了 50%。第二篇论文《用于 Shapley 值和概率值的回归调整蒙特卡洛估计器》将蒙特卡洛采样与回归…
-
新方法量化树模型中Shapley值的鲁棒性
研究人员开发了一种使用不精确狄利克雷模型(IDM)的新方法,用于分析决策树和随机森林中Shapley值的鲁棒性。该方法在将未标记实例引入树叶时,量化和检查区间值Shapley值。该方法允许基于悲观和平均原则计算这些区间值Shapley值,并且可以扩展到Banzhaf值。实验证明了这些区间值Shapley值的行为及其在消除无信息特征偏差方面的效用。
-
新几何学将朴素贝叶斯分类器与Shapley值联系起来
本文介绍了一个新的几何框架,用于理解加权朴素贝叶斯分类器,特别是在具有遗忘的数据流的背景下。研究人员开发了一种基于对数几率的判别性重构,这直接关系到分类决策。这种方法在模型的诱导几何与分析Shapley值之间建立了正式联系,为局部解释和预测行为提供了新的视角。
-
新基准评估脑电图脑机接口的在线适应性
研究人员开发了一个新的基准来评估脑电图(EEG)脑机接口(BCI)模型的在线适应技术。该研究使用顺序(先测试后训练)评估方法,比较了两种流水线系列:公共空间模式(CSP)和基于黎曼协方差的方法。结果表明,对于大多数模型/数据集组合,标签已公开的在线更新显著提高了性能,准确率比固定模型提高了18%。使用Shapley值的进一步分析表明,最近的数据块对模型适应最有价值。
-
新的CHOQOLATE层组织概念瓶颈模型以提高可解释性
研究人员开发了CHOQOLATE,一种用于概念瓶颈模型(CBM)的新型可解释层,它利用2-可加Choquet积分来组织潜在空间。该方法解决了基于CLIP等视觉-语言模型的CBM中概念纠缠的问题,从而实现了更具语义一致性和权重稀疏性的节点。CHOQOLATE在多个数据集上实现了良好的准确性-可解释性权衡,并通过抑制虚假概念来实现偏见缓解,而无需组注释或重新训练。
-
新的LandscapeSHAP方法在拓扑数据分析中分配功劳
研究人员开发了LandscapeSHAP,这是一种用于将机器学习模型预测归因于拓扑数据分析派生的特定特征的新颖方法。该方法专门解决了将功劳分配给持久性图(拓扑数据分析中使用的复杂数据结构)内单个点所面临的挑战。该方法为线性模型提供了精确的解决方案,并为非线性模型提供了高效的蒙特卡洛采样方法,确保基于Shapley值公理的公平功劳分配。
-
新框架优化医疗中心的联邦学习
研究人员开发了自适应贝叶斯伙伴选择(ABPS),一个旨在改善医疗保健领域联邦学习的点对点框架。该方法通过使临床中心能够根据预测效用智能选择协作者来解决数据异质性和概念漂移等挑战。ABPS使用具有Shapley值和上限置信度准则的贝叶斯方法来管理通信成本并避免负迁移,甚至允许在有益时进行有意隔离。使用MIMIC-IV数据进行的院内死亡率预测实验表明,ABPS-X能够以显著降低的通信开销和可变性匹配强大的联邦基线。
-
新研究解决机器学习中的Shapley值估计挑战 · 2篇论文
arXiv上发表的两篇新研究论文提出了一种估计Shapley值的新方法。Shapley值是机器学习中用于特征归因的关键技术。第一篇论文介绍了FUSHAP,该方法旨在通过利用辅助站点来减少方差而不进行插补,以处理具有缺失数据的多站点研究。第二篇论文提出了一种条件Shapley值的半参数推断方法,提供了不确定性量化并解决了特征依赖性问题。与现有方法相比,这两种方法在合成和真实世界数据集中的准确性和偏差减少方面都得到了证明。
-
深度学习与可解释性揭示市场动态
研究人员开发了一种理解复杂金融市场动态的新方法,该方法结合了深度学习和可解释性技术。通过在高频交易数据上训练深度前馈网络,他们识别出传统线性模型所忽略的价格和交易相互作用中的非线性依赖关系。利用Shapley值,该研究揭示了近期交易量和过往收益显著影响价格变动,从而催生了一个更具可解释性的参数化模型,其预测准确性可与深度学习模型相媲美。