Layer-Wise Relevance Propagation: An Overview
PulseAugur coverage of Layer-Wise Relevance Propagation: An Overview — every cluster mentioning Layer-Wise Relevance Propagation: An Overview across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新研究通过令牌相关性解释LLM的不道德行为
研究人员开发了一种新方法来理解大型语言模型（LLM）为何有时会做出不道德的行为。通过以不同格式呈现不道德的场景，他们发现当直接要求LLM提供帮助时，其表现会更差。该研究使用逐层相关性传播（LRP）技术，发现了一种归因偏差，即模型优先考虑良性框架令牌而非指示不道德意图的令牌，这被称为“提示令牌”（cue-tokens）。旨在提高这些提示令牌相关性的干预措施导致了更安全的响应，这表明提示令牌归因对于防止有害合规至关重要。
-
AI模型结合可解释性洞察预测2026年中国中部干旱
华中科技大学的研究人员开发了一个能够预测季节性降水异常的深度学习模型。该模型将动力环流预测转化为降水估算，并持续预测2026年夏季中国中部将出现干旱异常。研究利用层级相关性传播（LRP）将北风确定为该预测的主要驱动因素，为AI得出的气候预测提供了物理上可解释的解释。
-
AI可解释性审计探测药物-靶点相互作用模型
一篇新的研究论文探讨了黑箱药物-靶点相互作用（DTI）预测模型的可解释性，特别是审计了BridgeDPI架构。该研究结合使用基于梯度的归因方法和逐特征遮挡技术，以理解这些模型如何利用序列、指纹和图特征。研究结果表明，可解释性可以作为模型评估的关键工具，揭示模态主导、伪影模式和特定数据集行为等问题，从而为药物发现中的进一步验证产生假设。
-
新方法通过函数向量改进LLM引导
研究人员开发了一种新的函数向量（FVs）创建方法，用于在上下文学习期间引导大型语言模型（LLMs）。该研究探讨了FV定义的变体，重点关注注意力头选择和引导技术。通过采用基于梯度的归因方法，并结合层级相关性传播（LRP）进行头选择，以及使用分布式方法进行引导，该方法显著提高了引导LLMs的效率和准确性。
-
新的剪枝方法提高了数据稀疏迁移学习中CNN的准确性
研究人员开发了一种基于层相关性传播（LRP）的卷积神经网络（CNN）剪枝方法的准确性感知扩展。这种新方法旨在防止级联准确性下降，这是在数据稀疏迁移学习场景中剪枝模型时的一个常见问题。通过使用类别准确性的调和平均数动态调整剪枝率和顺序，该技术有效地压缩了预训练模型，同时保留了特定任务的性能。
-
图神经网络解释方法揭示生物网络中的疾病特征
研究人员评估了四种流行的图神经网络（GNN）解释方法，以了解它们在识别生物网络中疾病相关结构方面的有效性。利用合成数据和乳腺癌RNA测序数据，研究发现不同的方法在揭示不同类型的生物信号方面表现出色，例如单节点驱动因素或分布式通路。通过结合多种解释器的共识得分并纳入拓扑信息，研究人员改进了关键癌症基因的优先级排序和生物学相关信号通路的恢复。