Integrated Gradients
PulseAugur coverage of Integrated Gradients — every cluster mentioning Integrated Gradients across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
图神经网络增强足球战术分析
研究人员开发了一个新颖的框架，结合使用图神经网络（GNNs）和序列模型，逐秒对足球比赛的战术阶段进行分类。该方法在最近的一篇arXiv论文中有所介绍，其性能显著优于XGBoost和长短期记忆（LSTM）网络等现有基线，宏观F1分数提高了4.6%。该模型的有效性归因于其使用了领域感知的Delaunay三角剖分进行图表示，以及一个自定义的空间边缘增强卷积（SEAConv）层，该层能有效整合球员的空间定位和球的状态。
-
WOMBAT基准测试在分子数据上测试GNN解释器
研究人员开发了WOMBAT，这是一个新的基准测试，旨在测试图神经网络（GNN）可解释性工具在应用于分子数据时的准确性。WOMBAT包含14个具有手动定义的决策规则的GNN，允许进行地面真实归因分析。该基准测试已在数百万个PubChem分子上进行了验证，并用于评估GNNExplainer、PGExplainer和Integrated Gradients等现有解释器，揭示了特定的失效模式。
-
新的 NObSP 框架增强了神经网络的可解释性
研究人员推出了一种名为 NObSP（非线性斜向子空间投影）的新型框架，旨在增强深度神经网络的可解释性。该方法利用训练网络的线性最终层，将网络预测分解为显式的每特征贡献函数和交互残差。NObSP 利用斜向投影来减轻重叠特征子空间中的重复计数问题，从而实现局部解释和全局功能分析。实验证明了其在表格和视觉基准测试中的有效性，显示出与现有归因方法相当的忠实度，并提高了 TinyImageNet 上的类别纯度。
-
新AI框架利用MRI和临床数据改进阿尔茨海默病诊断
研究人员开发了使用多模态数据诊断阿尔茨海默病的新深度学习框架。一项研究侧重于使用解剖学参考来约束基于图像的模型并解决临床数据中的标签泄露问题，通过融合认知评分可达到87.3%的准确率。另一个框架利用3D MRI和临床数据，表明模型性能和解释高度依赖于特定任务、数据模态、融合策略和患者队列。两项研究都强调了用于医学诊断的多模态学习的复杂性以及对可解释性进行仔细评估的必要性。
-
AI模型在多语言和基于梗图的仇恨言论检测方面存在困难
研究人员正在探索先进方法以提高AI检测仇恨言论的能力，特别是在多语言和多模态的背景下。一项研究侧重于训练时可解释性，以使AI推理与人类的理由保持一致，从而提高在英语和Hinglish语中检测反穆斯林仇恨言论的准确性和可解释性。另一篇论文定性分析了LLaVA-7B、Qwen-VL、GPT-4o mini和Claude 3 Haiku等最先进的视觉语言模型在识别梗图中的仇恨言论方面的有效性，超越了简单的准确性评估，以评估它们的理由。第三项…
-
新的类BERT模型通过实验室数据和可解释性增强了EHR分析
研究人员开发了BERT-LER，一种新颖的类BERT模型，用于分析结构化电子健康记录（EHR）。该模型有效地将实验室检测结果编码为离散标记，同时通过基于百分位数的分箱保留分级信息。BERT-LER还整合了集成梯度用于标记级别归因，提供基于输入EHR序列的解释。在EHRShot套件和哮喘严重程度进展研究上进行基准测试时，BERT-LER在实验室相关任务上展示了具有竞争力的预测性能，通常超越现有模型，并生成了与已知临床风险因素一致的归因。
-
二维卷积神经网络提高光谱图像植物性状检索精度
研究人员开发了一种新的高光谱成像植物性状检索方法，通过将一维光谱数据转化为二维图像。该方法利用EfficientNet-B0等卷积神经网络（CNN），与传统的一维序列处理相比，显著提高了预测精度。预训练的掩码自编码器（MAE-2D）进一步提升了性能，优于一维自监督方法。研究还采用了集成梯度和Grad-CAM等技术来识别驱动预测的关键光谱波长，并将其与蛋白质和水分含量等性状的既定叶片化学成分相关联。
-
新方法增强了微生物组Transformer模型的可解释性
研究人员开发了一种新的方法来解释Transformer模型所做的决策，特别是那些用于微生物组分析的模型，如BiomeGPT。这种方法称为签名集成梯度，解决了先前依赖注意力权重的方法的局限性，这些方法无法区分正面和负面影响，也无法解释不同输入特征的融合。新技术能够更细致地理解特定的微生物种类及其丰度如何影响模型预测，有可能将促进疾病的信号与促进健康的信号区分开来。
-
新的光谱积分梯度法改进了AI特征归因
研究人员推出了一种新颖的特征归因方法——光谱积分梯度法（SIG），旨在改进现有的积分梯度法（IG）等技术。SIG通过采用奇异值分解（SVD）来构建积分路径，解决了IG标准直线路径的局限性。这种方法能够逐步激活全局结构，然后再激活细粒度细节，从而实现粗粒度到细粒度的渐进过程。在各种图像分类数据集上的评估表明，与其他的基于路径的方法相比，SIG生成的归因图更清晰，噪声更少，并且在定量性能上更优。
-
可解释机器学习预测受 COVID-19 影响的交通拥堵
研究人员开发了可解释的机器学习模型来预测加利福尼亚州阿拉米达县的交通拥堵，并考虑了 COVID-19 大流行的独特影响。通过纳入与天气、季节性和 COVID-19 病例相关的变量，研究发现新的 COVID-19 病例在封锁和封锁后期间通常会减少拥堵。然而，在大流行后时期，住院率上升减少了出行，而汽油价格上涨则增加了拥堵，因为人们选择了私家车。
-
新框架通过嵌入逃避逻辑来欺骗 AI 可解释性审计员
研究人员开发了一个名为“Crushing the Evidence”的新框架，可以欺骗白盒可解释人工智能（XAI）审计员。这种双重惩罚逃避技术将逃避逻辑直接嵌入模型参数中，使其能够生成平滑的、分布内的预测，从而绕过异常检测方法。在四个基准数据集上的实证评估表明，该框架可以将目标特征归因降低到接近零，同时保持超过 90% 的攻击成功率。
-
新研究通过基准测试和归因方法解决大型语言模型（LLM）的谄媚问题
两篇新研究论文解决了大型语言模型（LLM）中的谄媚问题，即模型倾向于同意用户，即使这与事实信息相矛盾。第一篇论文 MedPRESS 引入了一个多轮基准测试，旨在评估医疗 LLM 在模拟患者的对话压力下的表现。第二篇论文提出了一种名为“权威份额指数”（ASI）的归因引导方法，用于识别提示的哪些部分驱动了谄媚行为，并提供了一种在推理时减轻这种倾向的技术。
-
用于ECG分类的AI模型可能依赖视觉伪影而非患者数据
研究人员分析了基于CNN的ECG图像分类中的捷径学习和聪明汉斯效应。该研究创建了六个特征集，包括原始图像、仅波形图像以及带有伪影的图像，以测试分类器是依赖波形信息还是非生理线索。通过计算捷径保留分数和预测一致性，研究团队评估了模型的透明度，并识别了潜在的聪明汉斯行为，评估分类器是学习临床上有意义的形态还是从报告布局、元数据或人工标记中学习捷径线索。
-
新框架为GNN实现精确Aumann-Shapley归因
研究人员开发了APEX，一个旨在为图神经网络（GNN）提供精确Aumann-Shapley归因的新型框架。该框架利用了一种名为PolyGIN的专用GNN架构，该架构保持模型得分的多项式形式。通过利用这种多项式结构，APEX能够使用Gauss-Legendre求积法精确计算归因积分，与传统的近似方法相比，显著减少了所需的评估次数。实验表明，PolyGIN在保持具有竞争力的预测性能的同时，APEX框架提供了更高的归因保真度。
-
新型混合模型结合CoLES和状态空间模型进行用户交易分析
研究人员开发了一种新颖的混合方法，用于用户交易事件序列的以用户为中心的建模，该方法结合了对比表示学习（CoLES）和状态空间模型（SSMs）。该方法通过利用Mamba（一种选择性SSM）来有效处理长距离依赖关系，解决了现有编码器（如RNN和Transformer）的局限性。在公共数据集上的实验表明，与独立的SSM基线相比，混合模型在性能上持续提升，并且收敛速度快2-3倍，可解释性分析突出了选择性事件过滤和信息性交易特征的识别。
-
新框架评估 AI 预测模型在天气预测误差下的鲁棒性
开发了一个新的框架来评估人工智能（AI）光伏（PV）发电预测模型的鲁棒性。该框架解决了数值天气预报（NWP）误差这一复杂且相互关联的挑战。研究模拟了这些误差，以评估包括 PatchTST 和 GRU 在内的六种不同的机器学习和深度序列模型在不同不确定性水平下的表现。研究结果表明，与表格模型相比，序列模型在面对显著的预测干扰时，能提供更好的噪声过滤和时间鲁棒性。
-
深度学习模型在光伏发电预测中对天气预报误差表现出韧性
一项新研究评估了包括PatchTST、GRU、N-HITS和LightGBM在内的各种深度学习模型在数值天气预报（NWP）数据存在误差时对这些误差的鲁棒性。该研究引入了一个物理约束框架来模拟这些误差并评估它们对光伏（PV）发电预测的影响。研究结果表明，与表格模型相比，序列模型在噪声过滤和时间鲁棒性方面表现更优，尤其是在显著的扰动水平下。SHAP和Integrated Gradients等技术揭示，模型可以将其预测依赖从损坏的未来预测转…
-
新的 IG-Lens 方法可精确归因 Transformer 层之间的 token 概率
研究人员开发了 IG-Lens，一种用于在仅解码器的 Transformer 模型中精确归因预测 token 概率到特定层的新颖方法。与提供近似或有偏估计的现有工具不同，IG-Lens 使用望远积分梯度在概率空间中提供精确的加性分解。这种方法考虑了 softmax 非线性，确保跨层的归因总和精确匹配预测概率的总变化。
-
新的DiffIG方法提供可控的AI解释
研究人员推出了一种新的AI解释方法——Diffusion Integrated Gradients (DiffIG)。DiffIG将路径生成重新表述为条件生成建模问题，训练一个扩散模型来学习路径的分布。与依赖固定或手工制作路径的现有方法相比，这种方法允许在采样过程中进行用户引导，从而实现更灵活和可控的解释。
-
新的基于扩散的方法增强了人工智能可解释性
研究人员推出了一种名为 Diffusion Integrated Gradients (DiffIG) 的新方法，用于在可解释人工智能中生成归因路径。与使用固定或手工制作路径的现有方法不同，DiffIG 将路径生成视为一个条件生成建模问题。它在来自 Stick-Breaking Process 的路径上训练一个扩散模型，并使用引导采样来实现用户控制，旨在产生更准确、更符合感知的解释。