Shap
PulseAugur coverage of Shap — every cluster mentioning Shap across labs, papers, and developer communities, ranked by signal.
- used by alphaXiv 70%
- used by Local Interpretable Model Agnostic Explanations 70%
- used by ScienceCast 70%
- used by Gotit.pub 70%
- instance of alphaXiv 70%
- used by SpaceXAI 70%
- used by logistic regression model 70%
- used by Grad-CAM++ 70%
- used by CatalyzeX 70%
- used by gradient boosting 70%
- used by optuna 70%
- used by Local Interpretable Model-Agnostic Explanations for Classification of Lymph Node Metastases 60%
12 天有情绪数据
-
AI模型利用可解释学习预测孟加拉国男性家庭暴力
研究人员开发了一种可解释的集成学习模型来预测孟加拉国的男性家庭暴力（MDV）。该研究通过从九个主要城市收集数据，解决了数据不平衡和可用性有限的挑战。他们提出的堆叠集成模型，使用ANN和CatBoost作为基础分类器，并以Logistic Regression作为元模型，达到了95%的准确率和99.29%的AUC。SHAP和LIME等可解释AI技术被用于提供模型决策过程的透明度，挑战了家庭虐待主要影响女性的观念，并强调了为男性受害者提供…
-
机器学习模型识别慢性肾脏病的关键风险因素
研究人员开发了一个机器学习框架，用于识别慢性肾脏病（CKD）的风险个体。通过分析行为风险因素监测系统（BRFSS）和全国健康访谈调查（NHIS）等大规模远程医疗调查数据，他们的模型达到了高达76.12%的平衡准确率和82.29%的AUROC得分。进一步使用SHapley Additive exPlanations（SHAP）进行的分析，确定了关键风险因素，包括定期体检、年龄、血压和心理健康压力指标，为改善CKD风险分层提供了途径。
-
新的SHAP引导框架增强了基于LLM的特征工程
研究人员开发了SIGMA，一个新颖的自动化特征工程（AutoFE）框架，该框架利用SHAP值来引导特征生成，而无需语义元数据。这种方法解决了现有基于LLM的AutoFE方法的局限性，例如上下文窗口限制和高重复特征率。SIGMA的EXposed-feature Implicit Trajectory (EXIT)方法保持了恒定的提示长度，并将特征重复率从37.2%显著降低到6.8%，同时以更少的特征实现了与最先进方法相当的性能。
-
LLM 翻译信用风险模型解释，但证据表征是关键
研究人员探索了使用大型语言模型 (LLM) 将复杂的信用风险模型解释转化为更易于利益相关者理解的叙述。一项使用 Freddie Mac 贷款数据的研究比较了三种流程：标准表格（XGBoost + SHAP）、基于网络的方法（GNN + GNNExplainer）和双模组合。这些与包括 Gemma 3 4B、DeepSeek R1 70B 和 Gemini 2.5 在内的 LLM 配对。研究结果表明，证据表征方法比所使用的 LLM 对解…
-
新的机器学习方法增强了车辆通信切换的可解释性
研究人员开发了一种使用机器学习分析车辆通信系统中切换决策的新方法。该方法侧重于可解释性，使操作员能够实时理解模型的推理过程。所提出的基于方差函数分析（fANOVA）的框架在实现具有竞争力的检测性能的同时，与传统的事后方法相比显著降低了解释延迟。这使其成为车辆网络等关键应用的更高效、更透明的解决方案。
-
新AI模型揭示行人流受远处城市区域影响
研究人员开发了一种新颖的“基于环的Spatial Transformer”模型，以更好地理解建筑分布如何影响东京车站周围的行人流。该模型将自注意力应用于同心环缓冲区，将每个缓冲区视为一个空间标记，并且在预测准确性方面始终优于传统的地理加权回归。分析表明，行人流更多地受到跨越更远距离的交互作用的影响，而不仅仅是车站附近区域的影响，这挑战了传统的城市规划假设。
-
神经影像中的可解释人工智能：方法回顾与不足识别
近期一项对神经影像可解释人工智能（XAI）的77项研究进行的综述，识别出了关键方法和显著的不足。该论文重点介绍了Grad-CAM和SHAP等技术，同时也指出了该领域许多XAI方法缺乏充分的临床验证。
-
新的机器学习框架PHASE评估网络安全模拟中人类行为的真实性
研究人员开发了PHASE，一个机器学习框架，旨在评估网络安全模拟环境中人类行为的真实性。该被动系统分析Zeek连接日志，以超过90%的准确率区分人类活动和非人类活动。通过利用本地DNS记录进行标记和SHAP分析来识别行为特征，PHASE可以揭示破坏合成用户角色真实性的模式，从而改进以创建更有效的模拟。
-
新的贝叶斯解释方法提高了电能质量扰动分类器的可靠性
本文介绍了一种新颖的后验贝叶斯解释方法，用于深度学习分类器在电能质量扰动识别中的应用。该方法采用拉普拉斯近似来有效地推导出近似参数后验，从而能够生成扰动定位图的分布。这种方法提供了具有可靠性度量的解释，能够锐化特定事件的定位，并指示在噪声或域偏移下的解释分散性。
-
论文提出可解释人工智能以实现可信赖的热需求预测
一篇新论文介绍了一种事前的可解释人工智能方法，用于评估用于热需求预测的机器学习模型的全局特征重要性。该研究旨在提高这些模型的可解释性和可信赖性，以解决与标准、客户满意度和责任相关的问题。该方法采用四种方法：梯度提升的内在可解释性以及部分依赖、累积局部效应和SHAP等事后方法，而不依赖于特征排列或扰动。
-
新的因果归因分数 (CAS) 增强了人工智能的可解释性
研究人员推出了一种新颖的人工智能因果解释框架——因果归因分数 (CAS)。CAS 的独特之处在于它能够归因干预对现实世界结果的影响，而不仅仅是预测模型输出。该分数架构旨在利用因果 Shapley 贡献来分配联合干预对比，并将这些影响转化为各种 CAS 摘要。在基准模拟和经验数据集的测试中，CAS 在识别处理效应修饰符方面表现优于 SHAP 和 TreeSHAP 等传统预测方法。
-
TabSOM方法通过提高可解释性来增强表格数据的深度学习能力
研究人员开发了TabSOM，一种将表格数据编码为图像表示的新方法，以增强深度学习模型的应用。与仅考虑单个特征值的先前方法不同，TabSOM利用自组织映射（SOMs）来捕捉特征值及其相互关系。该方法在各种二元分类数据集上，与十二种现有的表格到图像技术相比，表现出了优越的性能和可解释性。
-
双Q学习模型在入侵检测中达到99.68%的准确率
研究人员开发了一种利用双Q学习模型的新型入侵检测系统（IDS），准确率达到99.68%。该模型采用双网络架构，将价值流和优势流分开，提高了学习效率和稳定性。该系统在CIC-IDS2018数据集上进行了训练，该数据集包含DDoS和僵尸网络等各种攻击类型。此外，还集成了可解释AI（XAI）技术，特别是SHAP，以提供模型预测的可解释性。
-
新的多智能体系统为不同受众定制 AI 解释
研究人员开发了 XstrAI，一个新颖的多智能体框架，旨在生成面向受众的叙述，用于解释 AI 模型预测，特别是在医疗领域。该系统将 SHAP 等特征归因方法视为固定证据，并为患者、临床医生和数据科学家等不同受众构建沟通。XstrAI 采用专门的规划、语言实现和验证智能体，以确保证据的准确性、归因的一致性以及受众的适宜性，在评估中优于多种基线方法。
-
AI框架进行具有空间意识的洪水和滑坡风险测绘
研究人员开发了一个新颖的框架，用于绘制印度喀拉拉邦和尼泊尔等地区的洪水和滑坡易感性和风险图。该框架采用空间异质性感知方法，比较了两种策略：邻近门控跨区域训练（S1）和生态门控区域约束训练（S2）。S1在两种灾害和两个地区都展现出更高的准确性和性能指标，尤其是在尼泊尔的洪水易感性方面。虽然两种策略都识别出了普遍的易发区，但S2更好地保留了区域特定的环境差异和预测因子重要性，这表明集成方法可以在尊重当地生态差异的同时增强区域区分度。
-
AI信用模型显示出显著的收入偏见，即使在隐藏收入的情况下
一篇新发表在arXiv上的研究论文详细介绍了自动化信用违约预测模型中显著的基于收入的差异。该研究分析了LendingClub Bank的大型数据集，发现与低收入违约者相比，高收入违约者被标记为标签噪声的比例更高。进一步的分析显示，这两组之间的真实阳性率存在巨大差距，表明模型未能准确预测高收入个体的违约情况。研究发现，即使在移除收入等敏感属性后，算法偏见仍然通过贷款金额和房屋所有权等代理因素持续存在，这凸显了在人工智能驱动的金融系统中实…
-
尽管预测模型有所改进，LLM对信用风险的解释仍不可靠
研究人员开发了一种用于信用风险预测的多尺度堆叠集成模型，该模型集成了梯度提升学习器和残差网络，在测试中实现了0.9539的ROC-AUC。虽然该集成模型比单一模型有微小但统计学上显著的改进，但发现语言模型为信用风险决策生成的叙述性解释并不可靠。研究表明，LLM经常未能准确反映模型的推理过程，有时会提及不正确的风险因素或引入未提供给它的特征，这表明需要对LLM生成的解释进行严格验证。
-
新的NLP心理测量学框架评估LLM心理健康预测能力
一篇新研究论文介绍了一种名为NLP心理测量学的框架，用于评估自然语言处理模型预测心理健康结果的有效性。该方法将基于文本的心理预测视为一个心理测量学问题，将模型得分与可解释的语言证据联系起来。研究使用了九个LLM，在受控的虚拟角色条件下，完成了心理测量问卷，结果显示在生活满意度、抑郁和焦虑方面具有显著的预测能力，但也强调了未经人类验证的合成数据的局限性。
-
新AI方法通过速度分析检测市场操纵
研究人员开发了一种新的日内市场操纵检测方法，通过分析市场状态变化的“速度”而非仅仅是价格水平。该方法在提交给arXiv的一篇论文中有所详述，它使用一个识别期权和股票市场中独特的“拉高出货”模式的流程。该系统在已识别的操纵日实现了高召回率，并使用SHAP归因来解释每个警报，展示了其对监管机构的潜在效用。
-
面向医疗物联网环境的新型入侵检测系统
研究人员开发了一种面向医疗物联网（IoMT）环境的新型入侵检测系统，重点关注特征选择以克服资源限制。该系统采用皮尔逊相关滤波器消除冗余属性，然后结合基于模型的特征重要性与SHAP归因的混合策略。这种方法显著减小了特征空间，从而产生了适用于资源受限医疗网络部署的紧凑且可解释的检测器。