explainable AI
PulseAugur coverage of explainable AI — every cluster mentioning explainable AI across labs, papers, and developer communities, ranked by signal.
- instance of ScienceCast 90%
- instance of DagsHub 90%
- instance of SpaceXAI 90%
- uses federated learning 90%
- instance of Gotit.pub 70%
- authored by alphaXiv 70%
- instance of alphaXiv 70%
- authored by Gotit.pub 70%
- used by SpaceXAI 70%
- used by machine learning 70%
- instance of machine learning 70%
- instance of Local Interpretable Model Agnostic Explanations 70%
10 天有情绪数据
-
新的DictXAI方法通过概念词典增强可解释人工智能
研究人员推出了一种新方法DictXAI，通过利用模型无关的概念词典来增强可解释人工智能（XAI）。与依赖可解释输入特征或特定架构内部抽象的传统XAI技术不同，DictXAI直接在输入域中定义概念。这种方法可以将AI预测归因于可识别的词典元素，从而直接识别与数据中的伪影模式相关的AI故障。DictXAI已在各种数据类型和词典中证明了其有效性，与现有方法相比，提供了更具可解释性和可操作性的见解。
-
FlowCF 方法为表格数据提供稀疏反事实解释
研究人员推出了一种新颖的、模型无关的 FlowCF 方法，用于为混合类型表格数据生成稀疏反事实解释。该方法将反事实生成视为一个稀疏传输问题，并使用流匹配技术解决，其中包含一个新的混合流算子来处理各种特征类型。实验表明，与现有方法相比，FlowCF 在改变数值特征的数量和整体位移方面显著减少，同时在其他期望的解释质量方面保持可比性能。
-
AI研究提出航海系统可解释故障预测方法
本文探讨了人工智能、机器学习、数字孪生和预测性维护在预测和预防航海设备故障中的应用。它解决了在这些安全关键环境中确保可信赖和可解释的决策制定的关键挑战。作者提出了一个集成了各种人工智能技术的闭环框架概念架构，同时讨论了当前人工智能辅助航海运营的局限性和未来研究方向。
-
8 个超越基础概念的高级 AI 术语详解
本文介绍了八个超越 token 和 prompt 等基本概念的高级 AI 术语。旨在帮助读者更深入地理解该领域，涵盖生成式人工智能、大型语言模型、基础模型、提示工程、AI 对齐、可解释 AI、人工智能伦理和机器学习等主题。
-
新型对抗性攻击针对基于深度强化学习的入侵检测系统
研究人员开发了新的通用对抗性扰动（UAP）生成方法，专门用于降低基于深度强化学习（DRL）的入侵检测系统（IDS）的性能。这些UAP旨在通过在各种网络流量类型上应用单一的、与输入无关的扰动来降低检测准确性。提出的基于概率鲁棒性（PR）的UAP将显式的PR驱动目标整合到UAP生成中，而高级版本PX-UAP则利用可解释人工智能（XAI）在现实约束下塑造扰动。实验表明，PX-UAP在攻击有效性方面优于现有的UAP方法。
-
新研究通过新颖的指标和框架解决人工智能可解释性问题
两篇新研究论文解决了解释复杂人工智能模型的挑战。第一篇论文介绍了 ExCIR（通过相关性影响比进行可解释性分析），这是一种新颖的指标，旨在准确地对相关特征进行排名，并为各种数据集上的模型输出提供稳定、高效的解释。第二篇论文提出了一个用于评估可解释人工智能（XAI）方法的合成真实情况框架，通过受控干预来生成超越模型预测简单保真度的可靠解释。
-
CNN-Transformer混合模型在乳腺癌检测中达到99%的准确率
研究人员开发了一种新颖的深度学习模型，该模型集成了卷积神经网络（CNN）和紧凑型卷积Transformer（CCT），以改进乳腺癌的乳腺X线摄影检测和分类。这种混合方法采用CNN集成的CCT分词器，旨在捕捉医学图像中的局部特征和长距离依赖关系，克服了传统CNN的局限性。该模型比ViT更轻量级，参数量少，在三个数据集上均实现了近乎完美的准确率，并集成了可解释AI（XAI）以增强临床信任度。
-
新的XAI方法解释说话人嵌入的层级结构
研究人员开发了一种新的方法，称为分层聚类匹配（HCCM），从可解释人工智能（XAI）的角度来解释神经网络中说话人嵌入的组织结构。通过应用一种名为单链接聚类（SLINK）的分层聚类算法，该研究分析了说话人嵌入如何形成层级聚类。然后，HCCM方法使用一种名为L-score的新指标，将这些聚类与与说话人身份、性别和国籍相关的语义类别进行评估，以诊断不完美的匹配，并深入了解说话人识别模型的内部语义。
-
新的XAI方法利用专家知识生成可感知的反事实示例
一篇新研究论文介绍了一种名为DiCEf的方法，它是可解释人工智能（XAI）中用于生成反事实示例（CFEs）的DiCE方法的扩展。这种增强方法通过模糊语言词汇整合专家知识，以确保生成的最小输入修改在语义上是有意义的且用户可感知的。该方法允许个性化的CFE，同时保持成本最小化、稀疏性和多样性，这在真实世界数据集上的实验结果得到了证明。
-
AI在评判政治辩论和民主中的作用得到审视
AI在政治辩论中的使用正在被审视，重点关注算法在评判此类讨论时是否能保持中立。本次探讨深入研究了算法中立性的概念以及可解释AI在理解这些系统决策中的重要性。更广泛的背景涉及衡量AI对民主进程的影响。
-
XAI框架通过自验证异常检测增强配电网网络安全
研究人员开发了一个名为ExCYDER的新型可解释AI（XAI）框架，以增强电网中分布式能源资源（DERs）的网络安全。该框架使用一种自验证机制，结合LightGBM和SHAP，以确保异常检测警报的可靠性和可解释性。实验表明，检测准确率超过98%，计算开销极小，提高了安全运营中心的运营信心。
-
新的XAI框架提升LSTM在信道估计中的效率
研究人员开发了一个名为X-RACE的新框架，以提高深度学习模型（特别是用于高移动性车辆环境中信道估计的长短期记忆（LSTM）网络）的可解释性和效率。该框架采用了一种新颖的双重优化策略，同时修剪不相关的输入子载波和内部隐藏单元，从而降低了计算复杂度。此外，X-RACE引入了新的时间XAI指标——饱和时间、重要性漂移和相关性对比——来分析LSTM学习动态。模拟结果表明，与传统的XAI方法相比，X-RACE可以将推理复杂度降低44%以上，同…
-
新AI方法在语音识别中发现“二阶模式”
研究人员引入了一种新颖的方法来理解神经网络如何识别语音，通过识别“二阶模式”。这些模式是网络学习表示中潜在的结构，表征了它如何处理话语。该研究提出了一种分层聚类算法来发现这些模式，以及一种名为分层聚类导航与分配（HCNA）的新方法，用于识别这些已发现的模式中哪些适用于未见过的话语。实验表明，HCNA显著提高了该二阶模式识别任务的性能。
-
可解释人工智能为机器学习模型创造了新的攻击面
一篇新发表在arXiv上的论文探讨了可解释人工智能（XAI）技术如何无意中为机器学习模型带来漏洞。该研究系统地梳理了25项利用解释进行攻击的研究，包括模型提取、成员推理和模型反演。它将对手获取解释信号的五种不同途径进行了分类，并强调风险取决于暴露的具体信号、获取方法、目标资产以及攻击者的现有知识。该论文主张对解释隐私进行端到端的评估，并根据获取途径和受保护资产量身定制防御措施。
-
新框架检测局部XAI方法遗漏的AI模型漂移
研究人员开发了一个新的模型监控和可观测性框架（FMMO），以解决AI模型部署后漂移的关键风险。传统的XAI（可解释人工智能）方法，如TreeSHAP，即使在模型性能下降时，也可能提供虚假的稳定性感，尤其是在对受保护群体产生不同影响方面。FMMO整合了全局代理模型和利用率测量，以检测局部XAI工具所忽略的公平性盲点，确保识别出歧视性恶化。
-
AI模型利用多模态数据检测焊接缺陷
研究人员开发了一种新颖的深度学习模型，该模型利用多模态时间注意力在气体保护电弧焊过程中实时检测内部缺陷。该模型在协作机器人采集的焊接图像和声音数据上进行训练，能够识别气孔、根部未焊透、咬边和未熔合等挑战性缺陷。该系统达到了0.99的F1分数，并集成了可解释AI来解读其决策过程，增强了对AI驱动的焊接检测的信任度。
-
新的CAH方法为Transformer可解释性提供经济学视角
研究人员引入了一种名为累积资产持有量（CAH）的新方法来解释Transformer模型，解决了现有可解释人工智能（XAI）技术（如通用注意力模型可解释性（GAE））的固有缺陷。该研究认为，当前XAI研究常常优先考虑性能指标而非方法本身的可解释性，他们称之为“XXAI”。CAH从经济零和博弈的角度整合了基于过程和基于特征的思想，提供了一个更强大的解释框架，特别是对于带有特殊标记的模型。
-
AI研究人员呼吁从XAI方法转向可解释模型
一篇新发表在arXiv上的论文提出，应将计算机视觉领域的可解释人工智能（XAI）的研究重点从开发新的可解释性方法转移到评估现有模型的可解释性上。作者认为，目前的工具足以描述和比较模型所代表和计算的内容，但需要更多努力来评估模型是否能被人类用户真正理解，这与系统神经科学的思路有相似之处。
-
新的双轨编码方法简化了复杂的AI解释
研究人员开发了一种计算复杂AI决策解释的新方法，解决了在关键应用中对AI可信度的担忧。研究证明，即使使用有序二叉决策图等高级表示，某些类型的溯因解释在计算上仍然很困难。然而，通过利用分类器的双轨编码，这些具有挑战性的解释可以被高效地计算出来。
-
心率估计模型XAI解释缺乏直接性能相关性
研究人员调查了可解释人工智能（XAI）方法应用于RhythmFormer时的可靠性和跨数据集迁移能力。RhythmFormer是一种用于远程光电容积脉搏波描记法（rPPG）的模型，可从面部视频中估计心血管脉搏。该研究评估了多种XAI技术，包括注意力图和显著性引导的忠实度系数，应用于NCKU-rPPG和UBFC-rPPG等不同数据集。研究结果表明，虽然一些XAI方法，特别是‘Beyond Intuition’，显示出良好的皮肤覆盖率和忠…