explainable AI
PulseAugur coverage of explainable AI — every cluster mentioning explainable AI across labs, papers, and developer communities, ranked by signal.
- instance of DagsHub 90%
- instance of alphaXiv 90%
- instance of machine learning 90%
- instance of SpaceXAI 90%
- instance of Gotit.pub 90%
- instance of ScienceCast 90%
- instance of artificial neural network 90%
- uses federated learning 90%
- authored by alphaXiv 70%
- authored by Gotit.pub 70%
- used by SpaceXAI 70%
- used by machine learning 70%
7 天有情绪数据
-
研究质疑人工智能在货运分类中解释的可靠性
一项新近发表在arXiv上的研究调查了可解释人工智能(XAI)在货运模式分类中的可靠性。研究人员使用了PEPFAR供应链管理系统交付历史数据集,比较了包括神经网络、逻辑回归和随机森林在内的各种机器学习模型的性能。研究发现,树集成模型在准确性方面通常优于其他模型,并且其特征重要性排名在重新训练后更为稳定。然而,在准确性相似的模型之间,关于哪些特征最重要存在显著分歧,这凸显了在依赖XAI进行关键决策之前评估解释稳定性和忠实度的必要性。
-
多模态大语言模型被测试为可解释人工智能评估中的人类代理
研究人员探索了使用多模态大语言模型(MLLMs)作为可解释人工智能(XAI)领域人类评估的替代方案。开发了一个新的框架来衡量MLLMs和人类的解释效用,旨在降低XAI评估的成本并提高其可扩展性。对十四个流行MLLMs进行的实证测试表明,来自OpenAI和Qwen的模型表现出更高的对齐度,表明它们在XAI研究中作为人类测试的可靠代理具有潜力。
-
新的XposedMIA框架利用AI解释进行成员推理攻击
研究人员开发了XposedMIA,一个利用可解释AI(XAI)输出来对机器学习模型执行成员推理攻击(MIA)的新型框架。该方法重新利用了LIME等技术中的局部代理几何来估计样本到模型决策边界的接近程度。XposedMIA在短暂校准后,每个目标样本仅需一次查询,表明发布解释可能会无意中泄露训练数据信息。
-
新的 B-XAIC 数据集为分子图神经网络的可解释人工智能设定基准
研究人员推出了 B-XAIC,这是一个新的基准数据集,旨在评估化学信息学和药物发现领域中图神经网络 (GNN) 的可解释人工智能 (XAI) 方法。该基准利用具有已知真实基本原理的真实分子数据和任务,解决了现有 XAI 评估的局限性,这些评估通常依赖于人工数据集或简化指标。B-XAIC 数据集旨在为评估分子背景下 XAI 的忠实度提供一个更强大的资源,从而有助于开发更可靠和可解释的模型。
-
新框架统一XAI和NSAI以实现可信的物联网异常检测
研究人员引入了一个新的分析框架,旨在增强物联网(IoT)中异常检测系统的可信度。该框架旨在统一解释性人工智能(XAI)和神经符号人工智能(NSAI)的方法,这两种方法通常被分开考虑。通过在五个互补的维度上考察这些方法,该框架有助于表征现有系统,识别设计权衡,并指导开发新的、更可靠的异常检测解决方案,以应用于各种物联网应用。
-
符号回归有望用于预测母猪分娩时间
研究人员探索了使用符号回归(一种可解释的人工智能)来改进家畜精准养殖,特别是预测母猪的分娩时间。该方法生成可解释的数学公式,解决了传统机器学习模型的“黑箱”问题。研究表明,符号回归在预测分娩时间方面实现了 9.28 小时的平均绝对误差,在可解释性和性能方面均优于支持向量回归和人工神经网络。
-
符号回归增强AI对预测母猪分娩时间的准确性
研究人员正在探索可解释人工智能(XAI)在家畜精准养殖中的应用,特别是用于预测母猪的分娩时间。该研究利用了母猪的加速度传感器数据,并采用了符号回归这一可解释的建模技术来预测距离分娩的剩余时间。该方法实现了9.28小时的平均绝对误差,在性能和可解释性方面均优于支持向量回归和人工神经网络等传统的“黑箱”模型。
-
研究发现:董事会性别多元化与排放绩效相关
一项研究论文探讨了2016年至2022年间欧洲公司董事会性别多元化(BGD)与排放绩效(EP)之间的关系。研究利用面板回归、机器学习和可解释人工智能发现,随着BGD的增加,EP会得到改善,最高可达约35%,且显著改善的最低阈值为22%。研究表明,ESG争议不会削弱这种关系,而环境创新也不是BGD对EP产生影响的调节渠道。
-
XAI-Guided Framework Enhances Sim-to-Real Transfer for Autonomous Driving
研究人员开发了一个名为XFD的新框架,该框架使用可解释人工智能(XAI)来改进自动驾驶深度强化学习策略从模拟到现实世界的迁移。该方法侧重于在傅里叶域中扰动对外观敏感的频谱分量,同时保留任务关键的空间结构,从而在模拟环境中完全创建更鲁棒的视觉域。实验表明,与标准方法相比,XFD在复杂、未见过的环境中提高了策略性能和奖励,并在模拟和现实世界的观察中保持对任务相关特征的一致关注。
-
PostgreSQL WAL 分析、AI 聊天机器人路由、ISO 42001 和 Micro-SaaS 后端
此集群涵盖了几个不同的技术主题,包括使用 PostgreSQL 的 EXPLAIN 命令分析数据库操作期间的预写日志 (WAL) 生成、客户服务中 AI 聊天机器人的路由和交接概念、ISO 42001 对 AI 管理和安全的影响,以及使用 n8n 构建 Micro-SaaS 后端。这些条目突出了与软件开发和 AI 实施相关的特定工具和标准。
-
新论文批评可解释人工智能指标未能建立信任
一篇新发表在arXiv上的立场论文批评了当前可解释人工智能(XAI)指标的现状,认为它们通常无法增加对机器学习模型的信任,反而可能导致过度依赖错误的预测。该论文强调,XAI主要作为一种调试工具,提供轶事见解而非对模型工作原理的真正理解。它指出了现有忠实性指标的五个主要缺点,并提出了四个研究方向,以提高其可靠性并更好地量化人工智能解释的可信度。
-
新的DictXAI方法通过概念词典增强AI可解释性
研究人员推出了一种新颖的可解释人工智能(XAI)方法DictXAI,旨在通过在输入域中直接定义概念来提高模型透明度。与依赖可解释输入特征或特定架构内部抽象的现有XAI技术不同,DictXAI使用预定义的可解释元素词典。该方法计算输入的稀疏代码,并将预测归因于这些词典元素,从而能够对AI故障提供可操作的见解,并促进更好的人机对齐,尤其是在处理复杂的生物医学信号时。
-
FlowCF 方法为表格数据提供稀疏反事实解释
研究人员推出了一种新颖的、模型无关的 FlowCF 方法,用于为混合类型表格数据生成稀疏反事实解释。该方法将反事实生成视为一个稀疏传输问题,并使用流匹配技术解决,其中包含一个新的混合流算子来处理各种特征类型。实验表明,与现有方法相比,FlowCF 在改变数值特征的数量和整体位移方面显著减少,同时在其他期望的解释质量方面保持可比性能。
-
AI研究提出航海系统可解释故障预测方法
本文探讨了人工智能、机器学习、数字孪生和预测性维护在预测和预防航海设备故障中的应用。它解决了在这些安全关键环境中确保可信赖和可解释的决策制定的关键挑战。作者提出了一个集成了各种人工智能技术的闭环框架概念架构,同时讨论了当前人工智能辅助航海运营的局限性和未来研究方向。
-
8 个超越基础概念的高级 AI 术语详解
本文介绍了八个超越 token 和 prompt 等基本概念的高级 AI 术语。旨在帮助读者更深入地理解该领域,涵盖生成式人工智能、大型语言模型、基础模型、提示工程、AI 对齐、可解释 AI、人工智能伦理和机器学习等主题。
-
新型对抗性攻击针对基于深度强化学习的入侵检测系统
研究人员开发了新的通用对抗性扰动(UAP)生成方法,专门用于降低基于深度强化学习(DRL)的入侵检测系统(IDS)的性能。这些UAP旨在通过在各种网络流量类型上应用单一的、与输入无关的扰动来降低检测准确性。提出的基于概率鲁棒性(PR)的UAP将显式的PR驱动目标整合到UAP生成中,而高级版本PX-UAP则利用可解释人工智能(XAI)在现实约束下塑造扰动。实验表明,PX-UAP在攻击有效性方面优于现有的UAP方法。
-
新研究通过新颖的指标和框架解决人工智能可解释性问题
两篇新研究论文解决了解释复杂人工智能模型的挑战。第一篇论文介绍了 ExCIR(通过相关性影响比进行可解释性分析),这是一种新颖的指标,旨在准确地对相关特征进行排名,并为各种数据集上的模型输出提供稳定、高效的解释。第二篇论文提出了一个用于评估可解释人工智能(XAI)方法的合成真实情况框架,通过受控干预来生成超越模型预测简单保真度的可靠解释。
-
CNN-Transformer混合模型在乳腺癌检测中达到99%的准确率
研究人员开发了一种新颖的深度学习模型,该模型集成了卷积神经网络(CNN)和紧凑型卷积Transformer(CCT),以改进乳腺癌的乳腺X线摄影检测和分类。这种混合方法采用CNN集成的CCT分词器,旨在捕捉医学图像中的局部特征和长距离依赖关系,克服了传统CNN的局限性。该模型比ViT更轻量级,参数量少,在三个数据集上均实现了近乎完美的准确率,并集成了可解释AI(XAI)以增强临床信任度。
-
新的XAI方法解释说话人嵌入的层级结构
研究人员开发了一种新的方法,称为分层聚类匹配(HCCM),从可解释人工智能(XAI)的角度来解释神经网络中说话人嵌入的组织结构。通过应用一种名为单链接聚类(SLINK)的分层聚类算法,该研究分析了说话人嵌入如何形成层级聚类。然后,HCCM方法使用一种名为L-score的新指标,将这些聚类与与说话人身份、性别和国籍相关的语义类别进行评估,以诊断不完美的匹配,并深入了解说话人识别模型的内部语义。
-
新的XAI方法利用专家知识生成可感知的反事实示例
一篇新研究论文介绍了一种名为DiCEf的方法,它是可解释人工智能(XAI)中用于生成反事实示例(CFEs)的DiCE方法的扩展。这种增强方法通过模糊语言词汇整合专家知识,以确保生成的最小输入修改在语义上是有意义的且用户可感知的。该方法允许个性化的CFE,同时保持成本最小化、稀疏性和多样性,这在真实世界数据集上的实验结果得到了证明。