Concept Bottleneck Models
PulseAugur coverage of Concept Bottleneck Models — every cluster mentioning Concept Bottleneck Models across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新型因果模型增强胸部X光片解读和可解释性
研究人员开发了XpertCausal，这是一种新颖的因果概念瓶颈模型，旨在增强胸部X光片解读的可解释性。与以往的判别式方法不同，该模型显式地模拟了从疾病到放射学发现的生成过程。通过结合放射科医生指导的因果结构和专家领域知识，XpertCausal在MIMIC-CXR数据集上的分类准确性、校准和临床解释质量方面均表现出改进的性能。
-
新基准使用多模态大语言模型（MLLM）委员会评估 AI 模型解释
研究人员开发了 CBX-Bench，这是一个旨在量化评估概念瓶颈模型（CBMs）生成解释质量的新基准。该基准利用一个多模态大语言模型（MLLM）委员会对解释质量进行评分，该评分已通过人类偏好进行了验证。该系统旨在提供一种可扩展且与人类对齐的方法，以超越传统的分类准确性来评估 CBM 的可解释性。
-
新的CBM方法减少了可解释癌症影像的标注负担
研究人员开发了一种新的方法，使用概念瓶颈模型（CBM）进行可解释的癌症影像诊断。该方法整合了有限的概念标注、类别条件分布匹配和先验初始化，以提高透明度。混合CBM在概念AUC方面显示出显著的提升，尤其是在低标注场景（0-20%）下，同时保持了与黑盒模型相当的诊断性能。
-
新研究重新思考概念瓶颈模型以提高可解释性
两篇新研究论文探讨了概念瓶颈模型（CBMs）的可解释性，该模型旨在通过人类可理解的概念来分解预测，从而使深度学习模型更加透明。第一篇论文介绍了“Clarity”，一种诊断指标，用于评估下游性能与概念激活的语义对齐之间的权衡，发现模型可以通过偏离语义对齐来优化任务性能。第二篇论文提出了“表示完整性”作为CBMs的一个关键属性，并引入了组一致性和概念覆盖率等指标来评估支持概念的特征的组织程度，表明概念完整性是超越简单准确性的一个重要标准。
-
新的ReCBM框架通过不确定性推理增强了可解释AI模型
研究人员开发了ReCBM，一种用于概念瓶颈模型（CBM）的新框架，可增强可解释性和推理能力。该方法结合了语义定义的概念关系，并利用不确定性来优化它们，从而更好地处理不可靠或缺失的概念信息。实验表明，ReCBM能够提高概念和任务的恢复能力，支持不确定性感知干预，并在不牺牲性能的情况下提取相关的概念子集。
-
新研究质疑医疗领域人工智能模型的可解释性
研究人员开发了一种新方法来评估概念瓶颈模型的可解释性，特别是在超声心动图等临床应用中。他们发现，仅仅准确预测结果是不够的；中间变量或“概念”也必须具有物理意义。通过在超声心动图数据上训练视频 Transformer 编码器，他们证明了仅为射血分数预测进行优化的模型可能会产生不准确的容积估计，因为目标函数对于缩放是不变的。在绝对单位中添加监督显著提高了这些中间容积预测的准确性，这凸显了验证概念层不仅仅是预测准确性的重要性。
-
新方法探索多样化、同样准确的AI模型
研究人员开发了一种新方法，可以有效地探索概念瓶颈模型（CBM）的“罗生门集”。该集合包含多个模型，它们具有相似的预测性能，但内部逻辑不同。所提出的框架使用并行适配器构建、检查点方案和概念多样性目标，在单一训练过程中生成这些多样化但准确的CBM。这种方法比传统方法占用更少的内存，并能实现更值得信赖的模型选择、解决类别间混淆以及在决策中可靠地弃权。
-
新的基于图的模型增强了视觉解释的可解释性
研究人员开发了一种基于图的概念瓶颈模型（G-CBM），该模型增强了视觉解释中的可解释性。这个新框架使用非负矩阵分解执行无监督概念发现，并将这些概念表示为图中的节点。G-CBM 将区域级特征与这些概念节点匹配，从而实现概念接地并捕捉图像中的重复性。然后，图注意力网络对概念之间的依赖关系进行建模以进行推理。该模型在 ImageNet 和 HAM10000 等数据集上展示了改进的性能，在皮肤镜检查基准测试上取得了与监督方法相媲美的结果。
-
新型Caption Bottleneck Models通过自然语言增强AI可解释性
研究人员推出了一种名为Caption Bottleneck Models (CaBM) 的新颖框架，旨在通过使用自然语言标题而非预定义的概念集来增强机器学习的可解释性。与需要专家定义或LLM生成概念列表的传统Concept Bottleneck Models (CBMs) 不同，CaBM利用大型多模态模型生成的自由文本。该方法通过严格基于图像派生的标题训练分类器，确保了无泄露的架构，并在训练后自主发现数据集特定的概念。实验表明，CaB…
-
新的COCOLogic-V2数据集推动了AI视觉归纳推理能力
研究人员推出了COCOLogic-V2，一个旨在提升AI模型视觉归纳推理能力的新数据集。该数据集专注于以物体为中心的真实世界图像，并涵盖了很大一部分一阶逻辑，目标是超越通常用于评估可解释模型（如概念瓶颈模型和程序合成方法）的简单任务。使用COCOLogic-V2进行的评估显示，当前模型难以处理接近边界的负样本，凸显了视觉归纳推理仍然是一个持续的挑战。
-
新研究增强了用于医疗、检索和机器人任务的视觉-语言模型
研究人员正在开发新方法来改进各种领域的视觉-语言模型（VLM）。一篇论文介绍了CoT-Mediate，一个用于评估生成推理如何影响VLM在医疗情境下预测的框架，发现推理的位置比其声明的来源更关键。另一项研究提出了ReToken，一个可学习的单一嵌入，通过选择相关的视觉标记来增强视觉检索，在Visual Haystacks和LVBench等基准测试中显示出显著的提升。对于机器人领域，BioVLN是一个专为生物医学实验室视觉-语言导航设计…
-
新的NeRD框架提升了AI在医学诊断中的可解释性
研究人员推出了一种新颖的框架NeRD（Neuro-Symbolic Rule Distillation），旨在提高医学图像诊断中的可解释性和效率。NeRD通过生成简洁的、基于本体的推理链来解决现有方法的局限性，而无需手动制定规则。在皮肤数据集上的实验表明，NeRD在诊断性能和临床合理性方面表现出色，并通过专家在环研究实现了有效的概念级干预。
-
新AI模型增强深度学习的可解释性和可靠性 · 跟踪4个来源
研究人员引入了多模态概念瓶颈模型（MM-CBMs），通过将图像和文本嵌入与自然概念对齐来增强深度学习的可解释性。这种新方法旨在克服现有模型的局限性，例如泛化能力受限和潜在的信息泄露。MM-CBMs在零样本分类和图像检索等任务中，在提供更大透明度的同时，准确性显著提高，并能与黑盒模型竞争。另一篇论文研究了概念瓶颈模型（CBMs）中符号检测的可靠性，提出了一种缓解模型可能利用捷径导致解释不可靠问题的策略。
-
新框架增强3D生成模型的可解释性
研究人员开发了一个名为3D-CBM的框架，通过集成概念瓶颈模型（Concept Bottleneck Models）来增强3D生成模型的可解释性。该方法旨在通过将潜在表征与人类定义的概念对齐来弥合深度几何学习中的语义鸿沟。该框架在概念验证实验中已证明其有效性，在概念预测方面取得了高准确率，并能够对3D模型中的错误进行精确干预以进行纠正。
-
AI概念学习由几何框架统一
研究人员开发了一个几何框架，统一了AI模型中的监督和无监督概念学习。该方法将概念瓶颈模型（CBMs）和稀疏自编码器（SAEs）都视为学习形成概念锥的线性方向。该研究提出了评估SAEs发现的概念与CBMs中人类定义的概念的匹配程度的指标，并确定了最大化这种匹配度的稀疏性和扩展性的最优参数。
-
新型因果神经概率电路增强模型可解释性
研究人员开发了一种名为因果神经概率电路（CNPC）的新模型，以提高概念瓶颈模型（CBM）的可解释性和干预能力。与忽略概念之间因果关系的传统CBM不同，CNPC将神经属性预测器与因果概率电路相结合。通过尊重概念之间的依赖关系，这可以实现更准确的因果推断和更好地处理干预，从而在实验中提高任务准确性。
-
新框架提升可解释医学影像诊断能力
研究人员开发了一种新的半监督医学影像诊断框架，提高了可解释性和效率。该方法利用双层超图学习来模拟临床概念之间的复杂关系，并生成领域自适应的伪标签。在胎盘植入谱系、乳腺超声和皮肤病数据集上的实验证明了该框架在提高诊断准确性和为临床医生提供透明决策方面的有效性。
-
新的基准和方法通过概念瓶颈模型增强了人工智能的可解释性
研究人员正在为概念瓶颈模型（CBM）开发新的基准和方法，旨在通过使用高级概念使人工智能决策更具可解释性。一篇论文介绍了用于评估CBM在决策支持和自动化方面的合成基准，从而可以对影响性能的各种因素进行受控测试。另一种方法侧重于使用视觉 Transformer 中的部分因子化注意力在空间上对 CBM 进行接地，通过确保概念源自相关的图像区域来提高准确性和可解释性。第三篇论文提出了一种概念级注意力机制，以增强细粒度对齐和可解释性，解决预训练…
-
新框架通过多个概念专家增强AI模型的可解释性
研究人员引入了一个名为Mixture of Concept Bottleneck Experts (M-CBE)的新框架，以增强概念瓶颈模型的可解释性和准确性。该框架允许使用多个预测表达式或“专家”，每个表达式可能具有不同的函数形式，将概念映射到任务预测。通过探索这些专家的数量和类型，M-CBE提供了一种平衡预测性能和模型可解释性的灵活方法。
-
新方法揭示深度学习模型中可解释的错误切片
研究人员开发了CB-SLICE，一种用于发现深度学习模型中可解释错误切片的新方法。该方法利用概念瓶颈模型（CBMs）将模型故障直接与人类可理解的语义概念联系起来。通过分析概念的误预测，CB-SLICE识别出表现出共同故障的特定样本组，并找出导致这些错误的关键概念。与现有技术相比，该方法在揭示偏差和提供更准确的模型错误解释方面表现出优越的性能。