PulseAugur
中
实时 05:49:38
English(EN) From Training to Deployment: Post-Hoc Causal Feature Identification via Sensitivity Ratios

新方法在事后识别 AI 模型中的因果特征与虚假特征

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了一种新颖的事后方法——归一化敏感性比率（NSR），用于识别已训练 AI 模型中的因果特征。与以往的技术不同，NSR 不需要访问模型的训练过程。它在结构化迁移机制下运行，其中环境主要在虚假特征的均值上有所不同，而因果机制保持稳定。在合成数据和真实世界数据集（如自行车共享数据）上的实验表明，NSR 在恢复因果特征方面具有有效性，并且在各种模型家族中表现一致。 AI

影响 提供了一种理解模型行为的新工具，并可能提高模型的鲁棒性和可解释性。

排序理由 详细介绍 AI 模型分析新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新方法在事后识别 AI 模型中的因果特征与虚假特征

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Athanasios Vlontzos, Giorgos Papanastasiou, Bernhard Kainz, Sotirios Tsaftaris ·

    从训练到部署：通过敏感性比率进行事后因果特征识别

    arXiv:2607.25546v1 Announce Type: new Abstract: Given a model that is already trained, which features does it rely on causally versus spuriously? Existing methods require access to the training procedure and cannot answer this post-hoc. We introduce the \textbf{Normalised Sensiti…

相关实体

相关话题