Shap
PulseAugur coverage of Shap — every cluster mentioning Shap across labs, papers, and developer communities, ranked by signal.
- used by streamlit 90%
- used by gradient boosting 80%
- competes with Local Interpretable Model-Agnostic Explanations for Classification of Lymph Node Metastases 70%
- used by Local Interpretable Model-Agnostic Explanations for Classification of Lymph Node Metastases 70%
- used by Gotit.pub 70%
- used by alphaXiv 70%
- used by ScienceCast 70%
- instance of alphaXiv 70%
- used by CatalyzeX 70%
- competes with Local Interpretable Model Agnostic Explanations 70%
- instance of Local Interpretable Model Agnostic Explanations 70%
- used by Shapley Additive Explanations 70%
11 天有情绪数据
-
作物产量预测研究揭示关键数据验证缺陷
一项关于巴基斯坦旁遮普作物产量预测的研究论文，指出了数据验证和模型性能方面存在的重大问题。该研究开发了一个结合了树集成模型和叶片健康分类器的原型，该原型最初在一个源自 Kaggle 的数据集上显示出较高的 R2 分数。然而，经过仔细检查，发现该数据集仅包含 46 个独立观测值，导致准确性虚高。在使用更稳健的验证方法和更大的 FAOSTAT 数据集时，简单的线性趋势优于复杂模型，而叶片健康分类器尽管在单独的图像数据上具有高准确率，但无法…
-
新方法Psi-Resilience提供无模型特征重要性
研究人员推出Psi-Resilience，一种新颖的无模型方法，可直接从数据中使用一维拓扑信号确定特征重要性。该方法构建了一个类别不一致性景观，并利用其拓扑特征生成上下文鲁棒的重要性得分。在合成和真实数据集上的评估表明，Psi-Resilience在恢复特征排名方面具有高保真度，其性能与SHAP和互信息等成熟方法相当。
-
AI研究确定了高效网络攻击检测的关键指标
研究人员开发了一种使用自然可见图（NVGs）提高网络攻击检测效率的方法。通过分析从NVGs派生的21个拓扑指标，他们发现使用其中一小部分指标可以保持高分类准确性，同时显著降低计算成本。研究发现，最重要的三个指标是avg_clustering_coeff_median、avg_clustering_coeff_std和avg_clustering_coeff_mean，当与CICIDS2018数据集上的CNN分类器结合使用时，与使用所有…
-
AI模型被纠正，在更差的条件下预测出更低的癌症风险
一篇新的研究论文提出了一种方法来纠正那些学习到反直觉关系（尤其是在膀胱癌复发预测方面）的机器学习模型。研究发现，一个未经约束的XGBoost模型错误地将更高的肿瘤分期和原位癌与较低的复发风险相关联。通过实施源自既定临床指南的单调性约束，研究人员能够在不牺牲预测性能的情况下消除这些反转，这表明该方法在临床部署前应成为标准做法。
-
AI基准审计揭示高准确率的隐藏成本
一项新的研究论文审计了广泛使用的IBM Telco Customer Churn基准，揭示了标准准确率和F1分数报告通常会忽略的重大可信度问题。研究发现，预分割SMOTE通过将测试集数据纳入训练，可以将F1分数提高13个百分点以上。此外，发现'TotalCharges'字段几乎是冗余的，但TreeSHAP错误地将其列为解释中的重要因素。该论文还强调，对于某些集成模型，等渗回归比温度缩放更可靠的校准方法，并且成本最优的决策阈值可能与F1…
-
深度学习框架提升巴西大豆产量预测能力
研究人员开发了一种新的深度学习框架用于预测作物产量，该框架已在巴西大豆产量上进行了测试。该框架仅使用常规天气数据和两个静态输入（作物年份和农业环境标签），使其具有输入节俭和可迁移性。包括 Transformer 和 Mamba 在内的各种深度学习模型与传统方法进行了基准测试，其中 Transformer 模型取得了最高的准确性。该研究还使用 SHAP 诊断分析了特征重要性，揭示了作物年份影响长期趋势，而天气和农业环境因素驱动年度变化。
-
新的MCIR-M方法通过特征依赖感知提高了机器学习模型的可解释性
研究人员推出了一种新的机器学习模型解释方法MCIR-M，该方法考虑了特征依赖性。SHAP和LIME等传统方法在处理相关或冗余特征时可能会遇到困难，导致排名不稳定。MCIR-M通过对其依赖的邻居进行条件化来量化每个特征的独特预测信息，从而提供更可靠的全局特征重要性分数，尤其是在多重共线性情况下。
-
新框架审计 DeBERTa-v3 在医学文本分类中的可解释性
研究人员开发了一个新框架，用于评估 DeBERTa-v3 模型在对医学摘要进行零样本分类时的可解释性。研究发现，词汇过度敏感和语义重叠等问题会影响模型的性能，尤其是在诊断不确定性的情况下。研究结果表明，在医学文本分类中审计基于 transformer 的模型时，使用多种解释方法和定量一致性指标至关重要。
-
新研究通过新颖的指标和框架解决人工智能可解释性问题
两篇新研究论文解决了解释复杂人工智能模型的挑战。第一篇论文介绍了 ExCIR（通过相关性影响比进行可解释性分析），这是一种新颖的指标，旨在准确地对相关特征进行排名，并为各种数据集上的模型输出提供稳定、高效的解释。第二篇论文提出了一个用于评估可解释人工智能（XAI）方法的合成真实情况框架，通过受控干预来生成超越模型预测简单保真度的可靠解释。
-
AI模型利用SHAP值预测92%的再入院风险
一个机器学习模型已被开发出来，据称能以92%的准确率预测再入院风险。使用SHAP值进行的分析表明，影响再入院的关键因素包括患者年龄、既往入院次数以及可能未说明的其他变量。该预测工具旨在通过识别高风险个体来改善患者护理。
-
新的FCA引导框架为AI乳腺癌诊断解释提供了完美的有效性
研究人员开发了一个名为FCA-Guided Counterfactual (FCA-CF) 的新颖框架，为多模态乳腺癌诊断模型生成可操作的解释。该框架使用形式概念分析来约束对立样本解释的搜索，确保其临床相关性。在TCGA-BRCA数据集上的评估中，FCA-CF实现了完美的有效性，这意味着所有生成的对立样本都成功改变了诊断预测。它还表现出优越的稀疏性，与其他有效方法相比，所需的特征改变更少，并且与原始实例的接近度强。
-
机器学习解码脂质纳米粒靶向用于RNA递送
研究人员开发了一个可解释的机器学习框架，用于预测和指导脂质纳米粒（LNPs）的肝外靶向。通过分析476种LNP配方的数据库，该研究确定了肝脏以外RNA递送的关键分子设计规则。该框架利用XGBoost、随机森林和逻辑回归模型，实现了高预测准确性，并揭示了可电离脂质描述符以及配方组成对于控制LNP生物分布至关重要。
-
基于物理的模型预测3D打印中的IN718织构
研究人员开发了一种新颖的两阶段基于物理的模型，用于预测激光粉末床熔合过程中Inconel 718 (IN718) 的晶体织构强度。该模型首先将工艺变量映射到熔化模式，然后通过整合经验物理模型和随机森林残差模型来预测织构。这种方法包含了衰减对支持不佳数据校正的机制，并抑制了物理有效范围之外的预测，与黑盒模型相比，展示了更好的可迁移性和可靠性。
-
可解释机器学习分析脑电图（EEG）以识别特定于受试者的注意力转移
研究人员开发了一种机器学习方法来分析与注意力转移相关的脑电图（EEG）信号。通过使用受控的实验范式，他们能够区分自我启动的注意力和外部指令的注意力转移。该研究采用 SHapley Additive Explanations (SHAP) 将模型决策归因于特定的频谱特征，发现较高频段和额叶区域是重要的贡献者，尽管高频信号中潜在的非神经伪影需要谨慎解释。这项工作证明了可解释机器学习在特定于受试者的脑电图分析中的效用，并对个性化脑机接口具有启示意义。
-
新的ADORE框架增强了机器学习模型的可解释性，性能优于LIME和SHAP
研究人员推出了一种名为自适应导数排序随机解释（ADORE）的新型框架，旨在增强复杂机器学习模型的可解释性。ADORE通过有效建模非线性和特征交互来解决现有方法的局限性，同时提供全局特征重要性和局部样本贡献。它通过随机SVD和动态稀疏性检测实现效率，使其能够扩展到大型数据集。实验表明，ADORE在表格、文本和图像数据上的表现优于LIME和SHAP，并且已作为开源Python包在GitHub上发布，以促进更广泛的应用。
-
新的IDE工具FairLint-DL可实现预训练偏见检测
研究人员开发了FairLint-DL，一个集成到Visual Studio Code中的新工具，允许开发人员在训练深度学习模型之前测试其偏见。该工具使用基于Shannon工作的信息论度量来量化受保护属性对预测的影响。在Adult Census Income等数据集上的评估显示出显著的公平性问题，FairLint-DL能够快速识别这些问题，证明了其在开发工作流程中简化公平性分析的潜力。
-
新的混合AI框架改进了个性化血压估计
研究人员开发了一种使用光电容积脉搏波描记法（PPG）信号估计血压的新混合框架。该方法结合了卷积神经网络（CNN）和先验形态学分支，以同时捕捉波形动态和个体血管特征。该方法旨在提高个性化水平并减少对大型数据集的依赖，在MIMIC-III数据库上实现了更高的准确性，收缩压的平均绝对误差为3.77 mmHg，舒张压为2.36 mmHg。使用SHAP的可解释性分析证实，形态学特征与个体血管特征一致，增强了可解释性。
-
基于雾计算的 AI 在边缘硬件上预测冷链温度
研究人员成功部署了一个基于雾计算的深度学习系统，用于实际冷链温度预测，这是该应用的首次尝试。该系统在南非的 Raspberry Pi 4 上使用 LSTM-GRU 模型运行，无需依赖云即可运行，预测温度的平均绝对误差 (MAE) 为 0.2°C。它能在不到一秒的时间内提供预测，并在预计发生冷链中断时生成条件 SHAP 解释，将预测归因于温度和湿度。
-
新框架利用数据叙事使AI决策更易理解
研究人员开发了一个新框架，将数据叙事与可解释机器学习（IML）相结合，使非专业人士更容易理解AI的决策。该方法在最新论文中详细介绍，使用DIST金字塔和I-P-O模型来指导数据叙事与IML之间的交互。提出的架构生成了不同的“What-if”（如果……会怎样）和“Why-not”（为什么不……）场景，同时还采用数据脱敏技术来保护敏感信息。使用波士顿房价数据集和SHAP值进行的实证评估表明，与传统的SHAP可视化相比，数据叙事被认为更易于理解和访问。
-
AI模型识别肝癌预测生物标志物 · 跟踪2个来源
研究人员开发了利用人工智能预测和识别肝细胞癌（HCC）生物标志物的新方法。一项研究构建了一个包含770个患者样本及其基因表达水平的数据集，利用半监督学习和XGBoost实现了96.5%的分类准确率。另一项研究采用深度学习和可解释AI分析转录组数据，识别出DNAJB14为关键影响基因，并使用基于15个选定基因训练的模型实现了90.74%的准确率。