Shap
PulseAugur coverage of Shap — every cluster mentioning Shap across labs, papers, and developer communities, ranked by signal.
- used by Integrated Gradients 80%
- used by Local Interpretable Model Agnostic Explanations 70%
- used by Shapley Additive Explanations 70%
- used by logistic regression model 70%
- used by Grad-CAM++ 70%
- used by alphaXiv 70%
- competes with Local Interpretable Model Agnostic Explanations 50%
- affiliated with Local Interpretable Model Agnostic Explanations 50%
14 天有情绪数据
-
新的SHARC框架增强了金融领域机器学习风险模型的可解释性
一篇新的研究论文介绍了一种名为SHARC的可解释性框架，该框架专为用于监管资本估算的机器学习风险模型而设计。SHARC通过将SHapley Additive exPlanations (SHAP)应用于混合GPR-HS架构来解决“黑箱”问题，使其输出可由监管机构审计。该框架成功地将非线性风险输出与底层情景输入联系起来，并揭示了在压力下，平均回报成分对资本水平有显著影响，这对金融风险管理具有启示意义。
-
可解释机器学习利用MRI和fMRI预测帕金森病严重程度
研究人员开发了一种可解释的机器学习模型，能够利用QSM MRI和多频多回波fMRI特征的组合来预测帕金森病的运动严重程度。研究发现，仅影像学模型显示出显著的预测能力，QSM和临床变量的组合解释了运动严重程度45.4%的方差。具体而言，选定的QSM和临床特征最有效，能够预测75.0%参与者在5分范围内的运动严重程度，其中小脑、丘脑、纹状体、脑岛和运动皮层是关键特征。
-
新的强化学习框架通过不确定性估计增强交易信心
研究人员开发了一种新的算法交易强化学习（RL）框架，该框架包含综合不确定性估计。该方法通过整合分布不确定性、认知不确定性和随机不确定性来应对动态金融市场的挑战。该框架使用 SHAP 加权重建不确定性、MC Dropout 和基于 LSTM 的技术指标共识等方法来增强不确定性估计。在美国股指上的实验表明，与传统模型相比，具有此不确定性估计的强化学习代理显著提高了回报和风险管理。
-
LLM驱动的移动增强虚拟现实体验
研究人员开发了一种使用大型语言模型（LLM）和自然语言命令的免提虚拟现实移动新方法。这种LLM驱动的方法旨在提高可访问性和灵活性，与传统的基于控制器或僵化的语音命令系统相比。评估表明，LLM驱动的移动在可用性、临场感和赛博眩晕方面与现有方法相当，而眼动追踪数据表明用户注意力增加和参与度提高。
-
新框架通过可解释的AI特征增强肿瘤分类
研究人员开发了一个新框架，将深度学习与可解释AI技术相结合，用于发现和验证用于肿瘤分类的影像组学特征。该方法使用深度学习进行分割，并利用Grad-CAM等注意力机制来识别关键区域，然后使用SHAP来解释影像组学特征。该框架旨在提高成像特征的预测性能和生物学可解释性，为无创肿瘤表征提供更具可重复性的解决方案。
-
AI 联合科学家工作流针对 EGFR 抑制剂耐药性
研究人员开发了一个 AI 联合科学家工作流，用于发现新的 EGFR 抑制剂，特别是针对导致现有疗法耐药性的 C797S 突变。该过程包括使用 ChEMBL 和 UniProt 来识别生物靶点和生物活性数据，然后使用 RDKit 进行分子标准化和特征计算。在此数据上训练随机森林模型以预测抑制剂效力，并使用 SHAP 进行特征解释。最后，工作流通过 BRICS 重组分子片段进入生成设计，以创建新的候选药物，然后根据 PubChem 进行评…
-
可解释AI在心力衰竭检测方面展现潜力但面临局限
最近对20项研究的回顾表明，虽然可解释人工智能（XAI）在检测和表征B期心力衰竭方面显示出潜力，但其目前的实施受到限制。关键问题包括XAI方法采用不一致，SHAP是最常用的但通常不足，并且在分析中缺乏对性别和种族亚组的考虑。此外，XAI输出的评估和外部验证常常不足，阻碍了通用性和临床应用。
-
AI 管道破译了古代 Inka Khipus 的结构模式
研究人员开发了一个机器学习管道来分析 Inka Khipus，这是 Inka 帝国用于记录的打结绳索设备。通过从 619 个 khipus 的数据库中工程化结构特征，他们采用了无监督聚类来识别三个不同的组，并采用监督分类来准确识别 Inka 晚期地平线帝国风格。分析显示，绳索扭转方向是帝国 khipus 的关键结构特征，有趣的是，一个聚类主要由 19 世纪的欧洲博物馆藏品组成，这表明殖民实践被编码在数据中。
-
新的可解释机器学习模型t-STEP预测电离层不规则性
研究人员开发了t-STEP，这是一种新颖的可解释机器学习模型，旨在以高时间分辨率预测总电子含量（TEC）。该模型以30秒的频率运行，能够检测对GPS等卫星技术至关重要的电离层小尺度不规则性。与包括IRI-2020模型在内的现有方法相比，t-STEP模型显示出显著的准确性提高，并在捕捉地磁暴期间的动态电离层事件方面显示出潜力。
-
新流水线整合学生表现预测与元认知校准
开发了一个名为UBP-CAP的新流水线，用于在智能辅导系统中整合学生表现预测和元认知校准。该框架通过三个模块处理学生行为遥测数据：用于正确性预测的LightGBM分类器、用于评估元认知对齐的校准指标，以及用于分解校准偏差的交叉广义线性混合效应模型。该研究引入了预测-解释散度指数（PEDI）来量化预测和解释特征剖面之间的结构性散度，研究结果表明学生的朴素ECE显著超过模型ECE，暗示存在系统性的校准不足。
-
AI模型利用语音分析进行痴呆症检测和临床洞察 · 跟踪4个来源
研究人员正在开发先进的AI模型，利用语音分析进行早期痴呆症检测。一种方法结合了来自Whisper的声学特征和LLM提取的语言生物标志物，在基准数据集上取得了高F1分数。另一种方法利用LoRA调优的LLM处理多种语音衍生信号，包括转录文本和主题线索，以进行全面分析。第三个框架侧重于可解释性，使用SHAP和LLaMA-3.1-70B-Instruct将复杂的模型预测转化为临床上可理解的洞察，显示出与临床工作流程整合的潜力。
-
MLOps引擎预测F1单圈时间，错误率降低56%
本文详细介绍了创建实时预测遥测引擎以预测一级方程式（F1）单圈时间的过程。作者采用了SHAP分析来解释模型的预测结果，并将一个朴素基线误差成功降低了56%。文章还分享了在部署过程中学到的关于MLOps的实际经验教训，包括遇到的Docker挑战。
-
研究显示18.6%的在线评论存在评分-情感不一致 · 跟踪3个来源
最近发表在arXiv上的一项研究调查了在线评论中星级评分与书面情感之间的差异，特别是在斯里兰卡旅游业中。研究发现，18.6%的评论表现出这种不一致性，“保守评分者”和“强制五星”等常见行为模式是造成不匹配的重要原因。场地类型、评论者专业知识、评论长度和时间等因素被确定为导致这种差异的驱动因素，这表明在自然语言处理任务中，不应自动将星级评分视为文本情感的可靠指标。
-
AI框架增强网联汽车的预测性维护
一篇新的研究论文详细介绍了一个用于网联汽车预测性维护的框架，该框架将内部诊断信号与外部环境数据（如道路质量和天气）相结合。该方法通过在印度、德国和巴西进行的模拟和真实现场测试得到验证，在检测车辆磨损事件的准确性方面取得了显著提高。研究还证实了基于边缘的推理在降低延迟方面的有效性，并强调了上下文特征在预测模型中的重要性。
-
新的符号执行测试方法增强了Transformer的鲁棒性分析
研究人员开发了一种新的Transformer分类器符号执行测试方法，该方法使用SHAP估计来根据路径谓词对模型预测的影响来确定其优先级。这种方法使用Python实现，使自注意力语义与可满足性模理论求解器兼容。在CIFAR-10上对紧凑型Transformer模型、ResNet18和VGG16进行的评估表明，在单像素预算和900秒的时间范围内，找到对抗性样本的成功率为60%，显著优于黑盒差分进化基线。
-
新研究揭示大型语言模型在临床数据上缺乏自我认知
一篇新的研究论文探讨了大型语言模型（LLM）在应用于结构化临床数据时的局限性，重点关注它们无法识别自身知识差距的问题。研究发现，LLM 的置信度得分并不可靠，通常与准确性不相关。此外，当 XGBoost 等传统模型高度自信时，LLM 的表现会变差，但在 XGBoost 置信度适中不确定时，LLM 的表现则与之相当。研究还表明，少样本示例和特征证据是独立的干预措施，可以显著提高准确性并减少归因分歧。
-
ZenML 0.80.0 发布，旨在解决 ML 流水线可复现性问题
ZenML 是一个开源的 MLOps 框架，已发布 0.80.0 版本，旨在解决机器学习流水线中可复现性的重大挑战。该框架将实验跟踪器和编排器等 20 多种不同工具连接到一个统一的系统中，使用户能够构建和管理生产就绪的 ML 流水线。此版本强调基于 Python 的方法，抽象化基础设施的复杂性，并实现从本地开发到云部署的无缝过渡。
-
新的P$^2$CE算法为AI生成合理的反事实解释
研究人员开发了P$^2$CE，一种旨在为机器学习模型生成合理帕累托最优反事实解释的新算法。该方法旨在为用户提供一系列不同可行性标准之间的最优权衡，帮助个人理解并可能改变AI系统做出的不利决策。P$^2$CE利用隔离森林进行异常值检测，以确保解释与数据分布一致，并采用SHAP值进行高效计算，在质量和速度方面均优于现有技术。
-
AI论文使用XAI分析欧洲电力价格
一项新的研究论文结合了深度神经网络和可解释人工智能（XAI）技术，探讨了欧洲电力价格的驱动因素。该研究利用SHAP和SSHAP分析了39个欧洲出价区的特征贡献。研究结果表明，太阳能对价格形成起着重要作用，而天然气价格仍然是主导因素。研究还强调了互联互通对价格动态的巨大影响，突显了欧洲电力系统的相互依赖性。
-
新型AI模型增强医学影像中的癌症和脑肿瘤检测
研究人员开发了用于医学影像分析的新型深度学习模型，重点关注癌症检测和脑肿瘤识别。一项研究介绍了一种计算高效的卷积神经网络（CNN）结合迁移学习，用于跨MRI和CT扫描的多癌检测，实现了高精度，并优于几种最先进的预训练架构。另一个模型BrainFusionNet结合了CNN、Vision Transformers和GRU来分析用于脑肿瘤检测的MRI图像，集成了可解释AI技术以突出决策区域，准确率达到98%。