Integrated Gradients
PulseAugur coverage of Integrated Gradients — every cluster mentioning Integrated Gradients across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新的 IG-Lens 方法可精确归因 Transformer 层之间的 token 概率
研究人员开发了 IG-Lens，一种用于在仅解码器的 Transformer 模型中精确归因预测 token 概率到特定层的新颖方法。与提供近似或有偏估计的现有工具不同，IG-Lens 使用望远积分梯度在概率空间中提供精确的加性分解。这种方法考虑了 softmax 非线性，确保跨层的归因总和精确匹配预测概率的总变化。
-
新的DiffIG方法提供可控的AI解释
研究人员推出了一种新的AI解释方法——Diffusion Integrated Gradients (DiffIG)。DiffIG将路径生成重新表述为条件生成建模问题，训练一个扩散模型来学习路径的分布。与依赖固定或手工制作路径的现有方法相比，这种方法允许在采样过程中进行用户引导，从而实现更灵活和可控的解释。
-
新的基于扩散的方法增强了人工智能可解释性
研究人员推出了一种名为 Diffusion Integrated Gradients (DiffIG) 的新方法，用于在可解释人工智能中生成归因路径。与使用固定或手工制作路径的现有方法不同，DiffIG 将路径生成视为一个条件生成建模问题。它在来自 Stick-Breaking Process 的路径上训练一个扩散模型，并使用引导采样来实现用户控制，旨在产生更准确、更符合感知的解释。
-
研究发现蛋白质语言模型无法恢复过敏原表位
一项新研究发现，尽管蛋白质语言模型在蛋白质级别过敏原性预测方面表现稳健，但其残基级归因无法准确恢复过敏原表位。研究人员开发了一个基准来评估归因的忠实度，结果显示 ESM-2 和 DeepPlantAllergy 等模型的解释与注释的表位没有显著一致性。研究结果表明，这些模型可能依赖于通用的序列特征，而非特定的免疫学机制，因此在未经定量验证的情况下，不应将归因信号直接解释为用于安全筛选或低过敏原设计的免疫学解释。
-
蛋白质语言模型的过敏原解释缺乏生物学依据
一项新近发表在arXiv上的研究质疑了用于过敏原性分类的蛋白质语言模型所提供的解释的生物学相关性。尽管ESM-2和DeepPlantAllergy等模型在蛋白质级别的预测准确性方面表现出色，但它们的残基级归因信号与注释的过敏原表位没有显著的关联。研究表明，这些模型可能依赖于一般的序列特征，而不是特定的免疫学机制，并警告说，在没有严格验证的情况下，不应将它们的解释视为用于安全筛选或低过敏原设计的直接免疫学见解。
-
新可解释性方法分析社会心理文本标记
研究人员已将集成梯度（IG）方法应用于文本中的社会心理语义标记分析，超越了简单的情感分析。该技术揭示了哪些特定词语有助于分类，增强了可解释性并提供了更深入的文本洞察。研究侧重于诸如能动性等标记，使用经过验证的深度学习分类器BERTAgent，并探索了使用有限数据集训练IG以识别不同类别的显著词语。
-
新的加权积分梯度方法提高了AI特征归因的可靠性
研究人员推出了一种名为加权积分梯度（WG）的新方法，以提高可解释AI中特征归因的可靠性，特别是在计算机视觉模型方面。与平等对待所有基线图像的现有方法（如期望梯度 EG）不同，WG 根据基线图像对给定输入的信息量自适应地选择和加权基线。这种方法保持了积分梯度的公理属性，在常见的图像数据集上，与 EG 相比，在各种卷积和 Transformer 架构上显示出高达 36% 的归因可靠性提升。为了获得这种增强的保真度，计算成本会因基线适用…
-
AI可解释性审计探测药物-靶点相互作用模型
一篇新的研究论文探讨了黑箱药物-靶点相互作用（DTI）预测模型的可解释性，特别是审计了BridgeDPI架构。该研究结合使用基于梯度的归因方法和逐特征遮挡技术，以理解这些模型如何利用序列、指纹和图特征。研究结果表明，可解释性可以作为模型评估的关键工具，揭示模态主导、伪影模式和特定数据集行为等问题，从而为药物发现中的进一步验证产生假设。
-
Visual-TCAV 为图像分类模型提供新的可解释性
研究人员开发了 Visual-TCAV，一个用于解释图像分类模型的新框架。该方法结合了局部显著性图和基于概念的归因，解决了现有技术的局限性。Visual-TCAV 可以精确定位图像中识别特定概念的位置，并量化其对预测的贡献，证明了比先前方法更高的忠实度。
-
新方法修正语言模型中的归因修补错误
研究人员开发了一种新方法来提高归因修补的准确性。归因修补是一种用于理解语言模型不同部分如何影响其行为的技术。当前方法是一种一阶近似，由于网络非线性可能不可靠。新方法引入了使用Hessian-vector乘积的二阶修正，显著提高了电路恢复的保真度。该方法对于更大的模型在计算上是可行的，并提供了检测不可靠估计和量化误差的实用工具。
-
新方法解释深度伪造语音检测器决策
研究人员开发了一种新方法来理解深度伪造语音检测器如何做出决策。通过在自监督表示上使用集成梯度，该技术可以精确定位音频中检测到深度伪造证据的特定时刻。分析显示，不同的检测器，如AASIST、CA-MHFA和SLS，依赖于不同的音频线索，范围从环境声音到音素伪影和频谱完整性。
-
新的Aumann-SHAP框架通过反事实几何解释机器学习决策
研究人员开发了Aumann-SHAP，一个通过分析反事实交互来解释机器学习模型决策的新框架。该方法通过关注基线特征和反事实特征之间的局部超立方体来分解变化，将其离散化为网格以形成合作博弈。应用于该博弈的Shapley和LES值提供了几何感知的归因，该归因收敛于集成梯度极限，并且可以高效计算。
-
新AI框架通过可解释性提升钓鱼检测能力
研究人员开发了一个新的框架，使用DistilBERT（一种轻量级Transformer模型）来增强对复杂钓鱼邮件的检测能力。该框架采用了对抗性训练技术，以提高其对噪声和扰动的抵抗力，使其比标准模型更健壮。此外，它还集成了LIME、SHAP和Integrated Gradients等可解释AI（XAI）方法，以提供其决策过程的透明解释，旨在建立用户信任。
-
新的 Reveal-IG 方法增强了 AI 模型特征归因
研究人员推出了一种新颖的机器学习模型特征归因方法 Reveal-IG。该技术将输入空间路径转移到结构化探针分布空间，从而提供对特征查询方式的更多控制。Reveal-IG 旨在提供稳定、有符号的归因，并在图像分类和表格回归任务中显示出潜力。
-
AI Methods Compared for Interpreting EEG Models in Depression Detection
一篇新研究发布在arXiv上，探讨了多种事后可解释AI（XAI）方法，用于解释用于检测重度抑郁症（MDD）的黑盒脑电图（EEG）模型。研究人员将DeepSHAP、Integrated Gradients、GradCAM、Occlusion和Permutation Feature Importance等技术应用于InceptionTime架构。分析显示，归因模式部分重叠，特别是在右半球的特定EEG区域反复出现。虽然一些方法显示出一致性，…
-
图神经网络解释方法揭示生物网络中的疾病特征
研究人员评估了四种流行的图神经网络（GNN）解释方法，以了解它们在识别生物网络中疾病相关结构方面的有效性。利用合成数据和乳腺癌RNA测序数据，研究发现不同的方法在揭示不同类型的生物信号方面表现出色，例如单节点驱动因素或分布式通路。通过结合多种解释器的共识得分并纳入拓扑信息，研究人员改进了关键癌症基因的优先级排序和生物学相关信号通路的恢复。
-
新方法增强了图像和表格数据的AI模型可解释性
研究人员开发了两种改进机器学习模型特征归新的方法。Spectral Integrated Gradients (SIG) 使用奇异值分解创建从粗到细的归因路径，从而为图像分类生成更清晰的图谱。另外，AGOP-IxG 提供了一种快速的表格数据逐样本归因方法，在准确性方面优于基线方法，并且与 SHAP 等方法相比显著缩短了计算时间。
-
AI可解释性研究为医学影像提出新基线
研究人员在医学AI的可解释性方法中引入了一个名为“语义缺失”的新概念。这种方法将集成梯度等路径归因技术的基线定义为不仅是信号的缺失，而且是一种临床上合理的、疾病相关特征不存在的状态。该研究提出使用反事实生成模型（如VAE和扩散模型）来创建这些有意义的基线，并在三个数据集上展示了归因的忠实度和医学相关性的提高。
-
新方法增强了跨多个领域的时间序列模型可解释性
研究人员开发了一种名为跨域集成梯度的新方法，以提高时间序列模型的可解释性。该技术概括了传统显著性图方法，允许在时间域之外的各种域中进行特征归因，包括复杂域和频域。该方法已通过实验和真实案例研究得到验证，证明了其能够为不同任务和架构的模型行为提供更深入、特定于问题的见解。
-
FRInGe 论文引入 Fisher-Rao 积分梯度以改进 AI 模型归因
研究人员引入了 FRInGe，一种用于改进机器学习模型中基于梯度的归因的新颖方法。FRInGe 通过在预测分布空间中定义参考点并使用 Fisher-Rao 测地线进行插值，解决了现有技术（如积分梯度）的局限性。该方法旨在为模型行为提供更鲁棒和校准的解释，并在各种 ImageNet 架构中得到了证明。