实体
C-XAI: A conceptual framework for designing XAI tools that support trust calibration
C-XAI: A conceptual framework for designing XAI tools that support trust calibration
PulseAugur coverage of C-XAI: A conceptual framework for designing XAI tools that support trust calibration — every cluster mentioning C-XAI: A conceptual framework for designing XAI tools that support trust calibration across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的攻击逻辑针对神经网络中的概念级推理
研究人员引入了一种攻击神经网络的新方法，该方法侧重于概念级推理中的逻辑不一致性，而不仅仅是输出错误分类。这种被称为基于概念的属性攻击的方法，旨在通过伪造人类可解释的概念（如“红色和八边形意味着停止标志”）来提高模型的鲁棒性。研究表明，这些概念级伪造可以泛化经典的对抗性攻击，并导致更有效的对抗性训练，减少模型中的语义偏差。
-
MLLMs 在低成本基于概念的 AI 解释方面展现出潜力
研究人员开发了一种使用多模态大语言模型（MLLMs）在可解释人工智能（XAI）中生成本地化解释的无训练方法。他们的方法称为概念命名（CoNa），评估了这些模型在图像特定区域识别语义概念的能力，甚至可以达到对象和部件级别。对从 7B 到 32B 参数的 MLLMs 进行的实验证明了在对象级别概念命名方面具有显著的准确性，这为更具成本效益的 XAI 研究指明了方向。