Shap
PulseAugur coverage of Shap — every cluster mentioning Shap across labs, papers, and developer communities, ranked by signal.
- used by streamlit 90%
- instance of Local Interpretable Model-Agnostic Explanations for Classification of Lymph Node Metastases 70%
- competes with Local Interpretable Model-Agnostic Explanations for Classification of Lymph Node Metastases 70%
- used by ScienceCast 70%
- competes with Local Interpretable Model Agnostic Explanations 70%
- used by CatalyzeX 70%
- instance of alphaXiv 70%
- instance of Local Interpretable Model Agnostic Explanations 70%
- used by logistic regression model 70%
- competes with ScienceCast 70%
- used by Gotit.pub 70%
- used by alphaXiv 70%
13 天有情绪数据
-
AI 模型在分子性质方面显示出不同的特征重要性
一项研究探讨了不同的 AI 模型如何解释分子性质,发现关键的预测特征因任务而异。研究使用 RDKit 描述符和 XGBoost 等模型,旨在确定模型是学习了真正的化学原理还是依赖于捷径。研究结果表明,SHAP 值通常与已知的化学知识一致,其中像 LogP 这样的特定描述符驱动溶解度预测,而复杂性影响沸点。有趣的是,在某些情况下,更简单的模型表现优于更复杂的模型。
-
新的ESENSC方法为特征归因提供了高效、公理化的SHAP替代方案
研究人员推出了一种新的机器学习模型特征归因方法ESENSC,它为SHAP提供了一种计算效率更高、理论上更健全的替代方案。ESENSC只需要线性数量的联盟值评估,而精确SHAP需要指数数量的评估,但ESENSC仍然满足关键的公理属性。在表格数据上使用神经网络和XGBoost模型进行的测试表明,ESENSC在归因幅度和特征排名方面与精确SHAP非常接近,但计算成本显著降低。
-
新方法可准确区分稳定与不稳定电力摇摆
一篇研究论文介绍了一种检测和分类电力系统摇摆事件的新方法,能够区分稳定和不稳定的摇摆。该研究利用三个时间序列特征提取库——tsfresh、TSFEL 和 tsfeatures——从电压和电流数据中生成了 3,000 多个描述符。通过严格的两步特征选择过程,数据集被缩减到 18 个关键特征。对十四种不同的分类器进行了基准测试,其中旋转森林 (ROF) 在识别事件类型方面达到了 99.98% 的准确率,而支持向量机径向基函数 (SVM-R…
-
研究质疑人工智能在货运分类中解释的可靠性
一项新近发表在arXiv上的研究调查了可解释人工智能(XAI)在货运模式分类中的可靠性。研究人员使用了PEPFAR供应链管理系统交付历史数据集,比较了包括神经网络、逻辑回归和随机森林在内的各种机器学习模型的性能。研究发现,树集成模型在准确性方面通常优于其他模型,并且其特征重要性排名在重新训练后更为稳定。然而,在准确性相似的模型之间,关于哪些特征最重要存在显著分歧,这凸显了在依赖XAI进行关键决策之前评估解释稳定性和忠实度的必要性。
-
LLM通过修补盲点增强冻结的欺诈检测器
研究人员开发了一个新颖的框架,通过使用大型语言模型(LLM)识别和解决盲点,来增强冻结欺诈检测模型的性能。该方法基于现有模型低估的特征提出规则,创建了一个加性的、可逆的对数提升叠加。通过汇集三个不同LLM骨干的见解,该系统实现了有界的极端情况性能,在真实的电子商务欺诈检测数据上显著提高了召回率和精确率。
-
ConceptTime 使用预测惊喜进行可解释时间序列分析
研究人员开发了 ConceptTime,一种新颖的自监督时间序列分类方法,可在无需标记数据的情况下实现高准确性和可解释性。该方法使用“预测惊喜”(预测器预测与实际观测值之间的不匹配)来识别片段边界并定义时间概念。该方法在 17 个基准测试中表现出与最先进的黑盒模型相当的性能,并且在癫痫病检测等低标签场景中显著优于现有的可解释基线。
-
AI通过深度学习和SHAP分析增强MRI脑肿瘤检测
研究人员开发了一种增强方法,通过结合深度学习技术和可解释AI来使用磁共振成像(MRI)检测脑肿瘤。该研究探索了包括局部二值模式(LBP)、Gabor滤波器和卷积神经网络(CNN)在内的各种特征表示方案,以及几种学习算法。结果表明,LBP与支持向量分类器(SVC)和CNN结合取得了高精度,其中CNN在大数据集上达到了98.9%。SHAP分析被用于识别对分类影响最大的特征,证实了LBP的重要贡献。
-
新数据集AraEngage分析阿拉伯语Facebook新闻参与度
研究人员开发了AraEngage,一个包含10,000条阿拉伯语Facebook新闻帖子的数据集,用于分析与用户参与度相关的语言特征。研究发现,宗教表达、消息长度、句子长度和词汇密度是参与度的关键指标,积极情绪也与更高的互动相关。研究强调了由于同形异义词和模糊术语,将标准语言特征应用于未加元音的阿拉伯语所带来的挑战,这可能导致测量误差。
-
新框架整合波动率测量与预测
研究人员推出了一种新颖的波动率预测框架——神经实现的度量(NRM),该框架整合了测量和预测阶段。与传统方法先将日内数据压缩为每日实现度量不同,NRM直接从下游预测目标中学习聚合规则。这种方法保留了已建立的实现度量的统计结构,同时允许上下文相关的权重,有效地将经典构造作为特例包含在内。在模拟和真实加密货币数据上的评估表明,与标准方法相比,NRM显著降低了预测误差。
-
Amazon Marketplace 使用 AI 提升 A+ 内容质量
Amazon Marketplace 正在采用 Amazon SageMaker AI 来提升“A+ 内容”的质量,其中包括产品详情页面上的文本、图像和视频。此举旨在为销售合作伙伴提供改进内容的切实建议,从而促进销售和客户参与度。该系统利用视觉语言模型 (VLM) 全面评估内容,在 CatBoost 分类器中结合 VLM 语义分数、OCR 可读性信号和专家注释。然后使用 SHAP 来解释这些质量决策并为品牌生成具体的改进建议。
-
深度学习与SHAP分析增强MRI脑肿瘤检测
研究人员开发了一种增强型方法,结合磁共振成像(MRI)、深度学习和可解释AI来检测脑肿瘤。该研究探索了包括局部二值模式(LBP)、Gabor滤波器和卷积神经网络(CNN)在内的各种特征表示方案,以及支持向量分类器(SVC)和CNN等多种学习算法。实证结果表明,LBP与SVC在小型数据集上达到了98.06%的准确率,而CNN在大型基准数据集上达到了98.9%的准确率,展示了自动化肿瘤诊断的高精度。
-
新框架设计用于材料性质预测的空间描述符
研究人员开发了一个新的框架,用于创建空间描述符来预测材料科学中的局部光谱和滞后回线。该方法使用遗传算法来优化空间划分和池化操作,平衡预测误差与描述符维度。所得描述符提供了关于何处需要空间细节以及何处区域摘要就足够了的见解,并可能应用于分子和固体。
-
AI取证管道确保入侵检测模型的完整性
研究人员开发了MODEXRE,一个旨在确保用于入侵检测的可解释人工智能模型完整性和可验证性的取证管道。该系统扩展了一个先前经过验证的XGBoost分类器,并加入了SHAP可解释性,分为两种模式:用于训练和认证的实验室模式,以及用于案件证据推理的正式模式。MODEXRE采用SHA-256哈希链式证据链,以保证认证模型是应用于案件的确切制品,解决了先前影响模型性能的时间戳泄露和特征覆盖范围不足等问题。该管道通过四个关键设计决策进行了优化,…
-
xAI 最新研究发现:AI 文本检测器在领域转移下面临挑战
一项新的研究论文探讨了当前 AI 文本检测模型的局限性,特别是在面对领域转移时。该研究使用 Llama 3 和 Mistral 等大型语言模型分析了 DistilBERT 和 RoBERTa 等模型,发现了一种“特异性偏差”,即大型语言模型会模仿对话中的不完美之处并虚构具体细节以逃避检测。研究还强调了“维基百科悖论”,即正式、客观的人类写作因其低统计爆发性而被误判为 AI 生成,这表明需要更具语义感知和可解释性的检测架构。
-
AI模型在资源受限环境下进行物联网DDoS检测的评估
一项新的研究论文评估了在资源受限的物联网(IoT)环境中检测分布式拒绝服务(DDoS)攻击的几种预训练卷积神经网络架构。该研究使用CICDDoS2019数据集和基于图像的流量表示,根据准确性、可靠性、计算成本和可解释性评估了模型。DenseNet和MobileNet架构表现出强大的性能和可靠性,其中MobileNet显示出高准确性,而DenseNet169提供了卓越的定性可解释性。
-
AI框架增强数字银行欺诈检测能力
本研究介绍了一种检测数字银行欺诈的新型框架,特别解决了数据不平衡和操作限制等挑战。该框架结合了时间序列评估、防止数据泄露的特征工程、概率校准以及用于可解释性的SHAP。在PaySim基准数据集上的实验表明,在测试的模型中,XGBoost表现最佳,PR-AUC达到0.5658。研究还强调了在实施自适应策略时,降低误报率与维持召回率之间的权衡。
-
新的 CBFI 框架旨在揭示机器学习模型中隐藏的交互作用
研究人员开发了一个名为局部基于案例的特征重要性 (CBFI) 的新框架,以更好地理解复杂机器学习模型的决策过程。与现有方法(如 SHAP 和 LIME)不同,后者通过为单个特征分配分数来模糊交互作用,局部 CBFI 旨在分离这些交互作用。该方法将主效应与纯交互作用分开,从而更清晰地了解特征协同作用,这对于高风险应用中的模型审计至关重要。
-
混合SEIR-TFT框架通过可解释AI增强大流行预测
研究人员开发了一个混合预测框架,将SEIR流行病学模型与时间融合Transformer(TFT)相结合,以预测大流行病的传播。该方法整合了流行病学数据、干预信号、流动性和人口统计学信息,以提供多期感染预测。通过利用SHAP分析,该框架提高了特征贡献和疾病动态区域特定驱动因素的透明度,在准确性和稳定性方面优于独立的SEIR模型。
-
新的 CBFI 框架解开机器学习模型中的特征交互
研究人员开发了一个名为局部案例特征重要性 (CBFI) 的新框架,以更好地理解机器学习模型的内部工作原理。该方法旨在将单个特征的贡献与复杂的交互分离开来,而这些交互通常被现有的归因方法(如 SHAP 和 LIME)所掩盖。在葡萄酒质量分类和医疗保险回归等任务上的实验表明,CBFI 可以有效地揭示梯度提升和深度神经网络等模型中隐藏的交互结构。
-
新框架提供可解释的歌唱情感识别
研究人员开发了一个新的可解释歌唱情感识别框架,该框架利用了歌唱特有的声学和演唱技巧特征。这种方法旨在提供对驱动情感表达的发声特征的更深入的洞察,超越了深度学习模型通常的黑箱性质。通过采用 SHAP 和 GRAD-CAM 等技术,该框架将模型决策与可测量的声学现象联系起来,突出了颤音和咽音技巧作为情感表达的关键指标。研究还发现,这些领域特定的特征可以减少歌手之间的差异,并提高在 VocalSet 等非领域数据集上的性能。