Concept Bottleneck Models
PulseAugur coverage of Concept Bottleneck Models — every cluster mentioning Concept Bottleneck Models across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新AI模型将概念与视觉原型关联，以提高可解释性
研究人员开发了原型驱动概念模型（PGCMs），以增强深度学习模型的可解释性。与以前的概念瓶颈模型不同，PGCMs将概念与视觉原型关联，允许直接检查和人工干预以纠正概念对齐。这种方法在保持具有竞争力的预测性能的同时，显著提高了AI系统的透明度和可干预性。
-
新的CLIF方法使用概念级影响函数增强NLP模型的可解释性
研究人员开发了CLIF，一种使用影响函数来提高NLP模型可解释性的新方法。该方法可以识别有益和有害的影响训练数据点，并通过调整这些样本来恢复性能，而无需重新训练。CLIF还分析了概念瓶颈模型内的概念级影响，从而深入了解决策过程。
-
研究发现：视觉模型中的转喻破坏了基于注意力的可解释性
一篇新发表在arXiv上的研究论文引入了视觉模型中的“视觉转喻”概念，即物体的局部编码了关于整个物体的信息。这种现象破坏了基于注意力的可解释性方法，这些方法假设局部性，即局部信息只应编码其对应的图像区域的信息。研究表明，现代视觉 Transformer 违反了这一假设，使得基于局部的推理和可解释性技术不可靠。
-
GraphCBMs通过对概念关系进行建模来增强AI的可解释性
研究人员引入了图概念瓶颈模型（GraphCBMs）来解决现有概念瓶颈模型（CBMs）的局限性。传统的CBMs假设概念是独立的，忽略了它们固有的相关性。GraphCBMs集成了潜在概念图来捕捉这些关系，增强了模型的可解释性和性能。在图像分类任务上的实验表明，GraphCBMs提供了更优越的结果，并实现了更有效的基于概念的干预。
-
新的 CREDENCE 框架分解 AI 概念不确定性以改进决策
研究人员开发了 CREDENCE，一个用于 Credal 概念瓶颈模型 (CBM) 的新框架，该框架能有效分离预测中的认知不确定性和随机不确定性。这种分解使得更细致的决策成为可能，例如自动化低不确定性任务或将模糊案例转交人工审核。该框架将概念表示为概率区间，区分了可减少的模型欠指定和不可减少的输入歧义。
-
研究人员在皮肤镜模型中发现概念不一致性，影响准确性。
研究人员在 Derm7pt 皮肤镜数据集中发现了显著的概念层面不一致性，这限制了概念瓶颈模型 (CBMs) 的准确性。通过应用粗糙集理论，他们发现 16.4% 的概念配置文件与冲突的诊断相关联，理论上将 CBM 的准确性上限设定在 92.1%。该研究还提出了一个经过筛选的一致性子集 Derm7pt+，证明了在各种骨干架构下 CBM 性能的提高。