Integrated Gradients
PulseAugur coverage of Integrated Gradients — every cluster mentioning Integrated Gradients across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
新的类BERT模型通过实验室数据和可解释性增强了EHR分析
研究人员开发了BERT-LER，一种新颖的类BERT模型，用于分析结构化电子健康记录（EHR）。该模型有效地将实验室检测结果编码为离散标记，同时通过基于百分位数的分箱保留分级信息。BERT-LER还整合了集成梯度用于标记级别归因，提供基于输入EHR序列的解释。在EHRShot套件和哮喘严重程度进展研究上进行基准测试时，BERT-LER在实验室相关任务上展示了具有竞争力的预测性能，通常超越现有模型，并生成了与已知临床风险因素一致的归因。
-
二维卷积神经网络提高光谱图像植物性状检索精度
研究人员开发了一种新的高光谱成像植物性状检索方法，通过将一维光谱数据转化为二维图像。该方法利用EfficientNet-B0等卷积神经网络（CNN），与传统的一维序列处理相比，显著提高了预测精度。预训练的掩码自编码器（MAE-2D）进一步提升了性能，优于一维自监督方法。研究还采用了集成梯度和Grad-CAM等技术来识别驱动预测的关键光谱波长，并将其与蛋白质和水分含量等性状的既定叶片化学成分相关联。
-
新方法增强了微生物组Transformer模型的可解释性
研究人员开发了一种新的方法来解释Transformer模型所做的决策，特别是那些用于微生物组分析的模型，如BiomeGPT。这种方法称为签名集成梯度，解决了先前依赖注意力权重的方法的局限性，这些方法无法区分正面和负面影响，也无法解释不同输入特征的融合。新技术能够更细致地理解特定的微生物种类及其丰度如何影响模型预测，有可能将促进疾病的信号与促进健康的信号区分开来。
-
新的光谱积分梯度法改进了AI特征归因
研究人员推出了一种新颖的特征归因方法——光谱积分梯度法（SIG），旨在改进现有的积分梯度法（IG）等技术。SIG通过采用奇异值分解（SVD）来构建积分路径，解决了IG标准直线路径的局限性。这种方法能够逐步激活全局结构，然后再激活细粒度细节，从而实现粗粒度到细粒度的渐进过程。在各种图像分类数据集上的评估表明，与其他的基于路径的方法相比，SIG生成的归因图更清晰，噪声更少，并且在定量性能上更优。
-
可解释机器学习预测受 COVID-19 影响的交通拥堵
研究人员开发了可解释的机器学习模型来预测加利福尼亚州阿拉米达县的交通拥堵，并考虑了 COVID-19 大流行的独特影响。通过纳入与天气、季节性和 COVID-19 病例相关的变量，研究发现新的 COVID-19 病例在封锁和封锁后期间通常会减少拥堵。然而，在大流行后时期，住院率上升减少了出行，而汽油价格上涨则增加了拥堵，因为人们选择了私家车。
-
新框架通过嵌入逃避逻辑来欺骗 AI 可解释性审计员
研究人员开发了一个名为“Crushing the Evidence”的新框架，可以欺骗白盒可解释人工智能（XAI）审计员。这种双重惩罚逃避技术将逃避逻辑直接嵌入模型参数中，使其能够生成平滑的、分布内的预测，从而绕过异常检测方法。在四个基准数据集上的实证评估表明，该框架可以将目标特征归因降低到接近零，同时保持超过 90% 的攻击成功率。
-
新研究通过基准测试和归因方法解决大型语言模型（LLM）的谄媚问题
两篇新研究论文解决了大型语言模型（LLM）中的谄媚问题，即模型倾向于同意用户，即使这与事实信息相矛盾。第一篇论文 MedPRESS 引入了一个多轮基准测试，旨在评估医疗 LLM 在模拟患者的对话压力下的表现。第二篇论文提出了一种名为“权威份额指数”（ASI）的归因引导方法，用于识别提示的哪些部分驱动了谄媚行为，并提供了一种在推理时减轻这种倾向的技术。
-
用于ECG分类的AI模型可能依赖视觉伪影而非患者数据
研究人员分析了基于CNN的ECG图像分类中的捷径学习和聪明汉斯效应。该研究创建了六个特征集，包括原始图像、仅波形图像以及带有伪影的图像，以测试分类器是依赖波形信息还是非生理线索。通过计算捷径保留分数和预测一致性，研究团队评估了模型的透明度，并识别了潜在的聪明汉斯行为，评估分类器是学习临床上有意义的形态还是从报告布局、元数据或人工标记中学习捷径线索。
-
新框架为GNN实现精确Aumann-Shapley归因
研究人员开发了APEX，一个旨在为图神经网络（GNN）提供精确Aumann-Shapley归因的新型框架。该框架利用了一种名为PolyGIN的专用GNN架构，该架构保持模型得分的多项式形式。通过利用这种多项式结构，APEX能够使用Gauss-Legendre求积法精确计算归因积分，与传统的近似方法相比，显著减少了所需的评估次数。实验表明，PolyGIN在保持具有竞争力的预测性能的同时，APEX框架提供了更高的归因保真度。
-
新型混合模型结合CoLES和状态空间模型进行用户交易分析
研究人员开发了一种新颖的混合方法，用于用户交易事件序列的以用户为中心的建模，该方法结合了对比表示学习（CoLES）和状态空间模型（SSMs）。该方法通过利用Mamba（一种选择性SSM）来有效处理长距离依赖关系，解决了现有编码器（如RNN和Transformer）的局限性。在公共数据集上的实验表明，与独立的SSM基线相比，混合模型在性能上持续提升，并且收敛速度快2-3倍，可解释性分析突出了选择性事件过滤和信息性交易特征的识别。
-
新框架评估 AI 预测模型在天气预测误差下的鲁棒性
开发了一个新的框架来评估人工智能（AI）光伏（PV）发电预测模型的鲁棒性。该框架解决了数值天气预报（NWP）误差这一复杂且相互关联的挑战。研究模拟了这些误差，以评估包括 PatchTST 和 GRU 在内的六种不同的机器学习和深度序列模型在不同不确定性水平下的表现。研究结果表明，与表格模型相比，序列模型在面对显著的预测干扰时，能提供更好的噪声过滤和时间鲁棒性。
-
深度学习模型在光伏发电预测中对天气预报误差表现出韧性
一项新研究评估了包括PatchTST、GRU、N-HITS和LightGBM在内的各种深度学习模型在数值天气预报（NWP）数据存在误差时对这些误差的鲁棒性。该研究引入了一个物理约束框架来模拟这些误差并评估它们对光伏（PV）发电预测的影响。研究结果表明，与表格模型相比，序列模型在噪声过滤和时间鲁棒性方面表现更优，尤其是在显著的扰动水平下。SHAP和Integrated Gradients等技术揭示，模型可以将其预测依赖从损坏的未来预测转…
-
新的 IG-Lens 方法可精确归因 Transformer 层之间的 token 概率
研究人员开发了 IG-Lens，一种用于在仅解码器的 Transformer 模型中精确归因预测 token 概率到特定层的新颖方法。与提供近似或有偏估计的现有工具不同，IG-Lens 使用望远积分梯度在概率空间中提供精确的加性分解。这种方法考虑了 softmax 非线性，确保跨层的归因总和精确匹配预测概率的总变化。
-
新的DiffIG方法提供可控的AI解释
研究人员推出了一种新的AI解释方法——Diffusion Integrated Gradients (DiffIG)。DiffIG将路径生成重新表述为条件生成建模问题，训练一个扩散模型来学习路径的分布。与依赖固定或手工制作路径的现有方法相比，这种方法允许在采样过程中进行用户引导，从而实现更灵活和可控的解释。
-
新的基于扩散的方法增强了人工智能可解释性
研究人员推出了一种名为 Diffusion Integrated Gradients (DiffIG) 的新方法，用于在可解释人工智能中生成归因路径。与使用固定或手工制作路径的现有方法不同，DiffIG 将路径生成视为一个条件生成建模问题。它在来自 Stick-Breaking Process 的路径上训练一个扩散模型，并使用引导采样来实现用户控制，旨在产生更准确、更符合感知的解释。
-
研究发现蛋白质语言模型无法恢复过敏原表位
一项新研究发现，尽管蛋白质语言模型在蛋白质级别过敏原性预测方面表现稳健，但其残基级归因无法准确恢复过敏原表位。研究人员开发了一个基准来评估归因的忠实度，结果显示 ESM-2 和 DeepPlantAllergy 等模型的解释与注释的表位没有显著一致性。研究结果表明，这些模型可能依赖于通用的序列特征，而非特定的免疫学机制，因此在未经定量验证的情况下，不应将归因信号直接解释为用于安全筛选或低过敏原设计的免疫学解释。
-
蛋白质语言模型的过敏原解释缺乏生物学依据
一项新近发表在arXiv上的研究质疑了用于过敏原性分类的蛋白质语言模型所提供的解释的生物学相关性。尽管ESM-2和DeepPlantAllergy等模型在蛋白质级别的预测准确性方面表现出色，但它们的残基级归因信号与注释的过敏原表位没有显著的关联。研究表明，这些模型可能依赖于一般的序列特征，而不是特定的免疫学机制，并警告说，在没有严格验证的情况下，不应将它们的解释视为用于安全筛选或低过敏原设计的直接免疫学见解。
-
新可解释性方法分析社会心理文本标记
研究人员已将集成梯度（IG）方法应用于文本中的社会心理语义标记分析，超越了简单的情感分析。该技术揭示了哪些特定词语有助于分类，增强了可解释性并提供了更深入的文本洞察。研究侧重于诸如能动性等标记，使用经过验证的深度学习分类器BERTAgent，并探索了使用有限数据集训练IG以识别不同类别的显著词语。
-
新的加权积分梯度方法提高了AI特征归因的可靠性
研究人员推出了一种名为加权积分梯度（WG）的新方法，以提高可解释AI中特征归因的可靠性，特别是在计算机视觉模型方面。与平等对待所有基线图像的现有方法（如期望梯度 EG）不同，WG 根据基线图像对给定输入的信息量自适应地选择和加权基线。这种方法保持了积分梯度的公理属性，在常见的图像数据集上，与 EG 相比，在各种卷积和 Transformer 架构上显示出高达 36% 的归因可靠性提升。为了获得这种增强的保真度，计算成本会因基线适用…
-
AI可解释性审计探测药物-靶点相互作用模型
一篇新的研究论文探讨了黑箱药物-靶点相互作用（DTI）预测模型的可解释性，特别是审计了BridgeDPI架构。该研究结合使用基于梯度的归因方法和逐特征遮挡技术，以理解这些模型如何利用序列、指纹和图特征。研究结果表明，可解释性可以作为模型评估的关键工具，揭示模态主导、伪影模式和特定数据集行为等问题，从而为药物发现中的进一步验证产生假设。