Concept Bottleneck Models
PulseAugur coverage of Concept Bottleneck Models — every cluster mentioning Concept Bottleneck Models across labs, papers, and developer communities, ranked by signal.
- 2026-10-09 research_milestone Researchers introduced CREAM, a new framework for Concept Bottleneck Models that enhances reasoning capabilities. 来源
6 天有情绪数据
-
概念瓶颈模型增强了可解释的视觉异常检测
研究人员通过扩展概念瓶颈模型（CBMs）引入了一个新的可解释视觉异常检测（VAD）框架。该方法旨在通过学习人类可理解的概念来提供更具语义意义的异常解释。提出的双分支架构结合了基于CBM的概念分支和用于像素级定位的视觉分支，从而弥合了语义和空间可解释性之间的差距。在既定基准上的评估显示，其性能与现有的VAD方法相当，同时提供了更丰富、由概念驱动的解释。一项用户研究表明，与最先进的基于VLM的解释器相比，其有效性有所提高，误导性解释有所减少。
-
新的CREAM框架增强了具有推理能力的概念瓶颈模型
研究人员推出了一种新的概念瓶颈模型（CBM）框架CREAM（Concept Reasoning Models）。CREAM允许在模型的推理过程中显式编码关于概念-概念和概念-任务关系的先验知识。该框架可以处理各种概念关系，例如互斥和相关性，并且还可以纳入一个正则化的侧通道来补偿不完整的概念集。实验表明，CREAM模型在概念有限的情况下也能取得有竞争力的性能，保持可解释性，并避免概念泄露。
-
AnyBottle方法创建了紧凑、特定任务的AI概念模型
研究人员开发了AnyBottle，一种创建紧凑、特定任务的概念瓶颈模型（CBM）的新颖方法。与使用大型、静态概念词汇表的先前无标注变体不同，AnyBottle利用了冻结的骨干网络和无监督的概念池，例如稀疏自编码器。黑盒教师模型通过识别最能解释瓶颈故障的概念来指导选择过程，从而创建更小、更易于检查的瓶颈。该方法在各种视觉和文本数据集上均显示出有效性，与现有方法相比，产生的概念更少，一致性更高。
-
概念瓶颈模型增强语音情感识别的可解释性
研究人员已将先前用于图像分类的概念瓶颈模型应用于语音情感识别（SER）。此举旨在提高SER系统的可解释性，特别是那些利用大型语言模型（LLM）的系统。该研究在CREMA-D、IEMOCAP和MELD数据集上测试了三个LLM，从语音转录文本、声学描述和说话人属性中提取概念。研究结果表明，在零样本设置下，LLM严重偏向于语音转录文本，显著降低了性能指标。微调可以减轻这种偏见，并且移除诸如语速或强度级别等特定声学特征可以改变个体预测，而不会…
-
概念瓶颈模型：探索可解释性与鲁棒性的权衡
一篇新的研究论文探讨了概念瓶颈模型（CBMs）的鲁棒性，这类模型旨在提高可解释性。该研究认为，先前关于CBM鲁棒性的发现相互矛盾，是因为混淆了不同的鲁棒性概念和扰动类型。研究人员引入了一个框架，用于在几何和语义扰动下比较CBMs与标准分类器，发现可解释性并不天然保证鲁棒性。相反，概念瓶颈重新分配了敏感性，揭示了可解释性与鲁棒性之间的权衡，这种权衡取决于任务结构和扰动模式。
-
新的CHOQOLATE层组织概念瓶颈模型以提高可解释性
研究人员开发了CHOQOLATE，一种用于概念瓶颈模型（CBM）的新型可解释层，它利用2-可加Choquet积分来组织潜在空间。该方法解决了基于CLIP等视觉-语言模型的CBM中概念纠缠的问题，从而实现了更具语义一致性和权重稀疏性的节点。CHOQOLATE在多个数据集上实现了良好的准确性-可解释性权衡，并通过抑制虚假概念来实现偏见缓解，而无需组注释或重新训练。
-
新方法整合专家知识以改进图像分类
研究人员开发了一种新颖的方法，将领域专家知识整合到图像分类模型中，超越了现有的概念瓶颈模型（CBMs）和基于概念的嵌入模型（CEMs）。这种新方法涉及微调图像特征提取器，以分类专家指定的属性，这些属性以各种格式（数值、范围、二进制、分类）进行编码。然后，在这些属性上训练一个分类头来对物体进行分类，在 Kaggle 鱼类数据集、AWA2 和一个新的木炭数据集上展示了改进的性能。此外，该系统还提出了一种自动选择可能被错误分类的数据供专家审…
-
新型因果模型增强胸部X光片解读和可解释性
研究人员开发了XpertCausal，这是一种新颖的因果概念瓶颈模型，旨在增强胸部X光片解读的可解释性。与以往的判别式方法不同，该模型显式地模拟了从疾病到放射学发现的生成过程。通过结合放射科医生指导的因果结构和专家领域知识，XpertCausal在MIMIC-CXR数据集上的分类准确性、校准和临床解释质量方面均表现出改进的性能。
-
新基准使用多模态大语言模型（MLLM）委员会评估 AI 模型解释
研究人员开发了 CBX-Bench，这是一个旨在量化评估概念瓶颈模型（CBMs）生成解释质量的新基准。该基准利用一个多模态大语言模型（MLLM）委员会对解释质量进行评分，该评分已通过人类偏好进行了验证。该系统旨在提供一种可扩展且与人类对齐的方法，以超越传统的分类准确性来评估 CBM 的可解释性。
-
新的CBM方法减少了可解释癌症影像的标注负担
研究人员开发了一种新的方法，使用概念瓶颈模型（CBM）进行可解释的癌症影像诊断。该方法整合了有限的概念标注、类别条件分布匹配和先验初始化，以提高透明度。混合CBM在概念AUC方面显示出显著的提升，尤其是在低标注场景（0-20%）下，同时保持了与黑盒模型相当的诊断性能。
-
新研究重新思考概念瓶颈模型以提高可解释性
两篇新研究论文探讨了概念瓶颈模型（CBMs）的可解释性，该模型旨在通过人类可理解的概念来分解预测，从而使深度学习模型更加透明。第一篇论文介绍了“Clarity”，一种诊断指标，用于评估下游性能与概念激活的语义对齐之间的权衡，发现模型可以通过偏离语义对齐来优化任务性能。第二篇论文提出了“表示完整性”作为CBMs的一个关键属性，并引入了组一致性和概念覆盖率等指标来评估支持概念的特征的组织程度，表明概念完整性是超越简单准确性的一个重要标准。
-
新的ReCBM框架通过不确定性推理增强了可解释AI模型
研究人员开发了ReCBM，一种用于概念瓶颈模型（CBM）的新框架，可增强可解释性和推理能力。该方法结合了语义定义的概念关系，并利用不确定性来优化它们，从而更好地处理不可靠或缺失的概念信息。实验表明，ReCBM能够提高概念和任务的恢复能力，支持不确定性感知干预，并在不牺牲性能的情况下提取相关的概念子集。
-
新研究质疑医疗领域人工智能模型的可解释性
研究人员开发了一种新方法来评估概念瓶颈模型的可解释性，特别是在超声心动图等临床应用中。他们发现，仅仅准确预测结果是不够的；中间变量或“概念”也必须具有物理意义。通过在超声心动图数据上训练视频 Transformer 编码器，他们证明了仅为射血分数预测进行优化的模型可能会产生不准确的容积估计，因为目标函数对于缩放是不变的。在绝对单位中添加监督显著提高了这些中间容积预测的准确性，这凸显了验证概念层不仅仅是预测准确性的重要性。
-
新方法探索多样化、同样准确的AI模型
研究人员开发了一种新方法，可以有效地探索概念瓶颈模型（CBM）的“罗生门集”。该集合包含多个模型，它们具有相似的预测性能，但内部逻辑不同。所提出的框架使用并行适配器构建、检查点方案和概念多样性目标，在单一训练过程中生成这些多样化但准确的CBM。这种方法比传统方法占用更少的内存，并能实现更值得信赖的模型选择、解决类别间混淆以及在决策中可靠地弃权。
-
新的基于图的模型增强了视觉解释的可解释性
研究人员开发了一种基于图的概念瓶颈模型（G-CBM），该模型增强了视觉解释中的可解释性。这个新框架使用非负矩阵分解执行无监督概念发现，并将这些概念表示为图中的节点。G-CBM 将区域级特征与这些概念节点匹配，从而实现概念接地并捕捉图像中的重复性。然后，图注意力网络对概念之间的依赖关系进行建模以进行推理。该模型在 ImageNet 和 HAM10000 等数据集上展示了改进的性能，在皮肤镜检查基准测试上取得了与监督方法相媲美的结果。
-
新型Caption Bottleneck Models通过自然语言增强AI可解释性
研究人员推出了一种名为Caption Bottleneck Models (CaBM) 的新颖框架，旨在通过使用自然语言标题而非预定义的概念集来增强机器学习的可解释性。与需要专家定义或LLM生成概念列表的传统Concept Bottleneck Models (CBMs) 不同，CaBM利用大型多模态模型生成的自由文本。该方法通过严格基于图像派生的标题训练分类器，确保了无泄露的架构，并在训练后自主发现数据集特定的概念。实验表明，CaB…
-
新的COCOLogic-V2数据集推动了AI视觉归纳推理能力
研究人员推出了COCOLogic-V2，一个旨在提升AI模型视觉归纳推理能力的新数据集。该数据集专注于以物体为中心的真实世界图像，并涵盖了很大一部分一阶逻辑，目标是超越通常用于评估可解释模型（如概念瓶颈模型和程序合成方法）的简单任务。使用COCOLogic-V2进行的评估显示，当前模型难以处理接近边界的负样本，凸显了视觉归纳推理仍然是一个持续的挑战。
-
新的基准和模型在机器人和推理领域推进视觉-语言能力 · 跟踪了10个来源
近期研究探讨了多个领域中视觉-语言模型（VLM）的进展。DeCAL 引入了一个新的模型，用于灵巧操作，该模型集成了触觉感知和视觉-语言理解。ROBORMBENCH 强调了 VLM 奖励模型在机器人领域对释义的脆弱性，并提出了一个衡量这种不稳定的基准。KoNA 和 FPCO-Dialog 分别针对 VLM 中的选择性不合规和持续的错误前提，提出了新的基准和微调策略。MultihopSpatial 专注于提高 VLA 代理的多跳组合空间推…
-
新的NeRD框架提升了AI在医学诊断中的可解释性
研究人员推出了一种新颖的框架NeRD（Neuro-Symbolic Rule Distillation），旨在提高医学图像诊断中的可解释性和效率。NeRD通过生成简洁的、基于本体的推理链来解决现有方法的局限性，而无需手动制定规则。在皮肤数据集上的实验表明，NeRD在诊断性能和临床合理性方面表现出色，并通过专家在环研究实现了有效的概念级干预。
-
新AI模型增强深度学习的可解释性和可靠性 · 跟踪4个来源
研究人员引入了多模态概念瓶颈模型（MM-CBMs），通过将图像和文本嵌入与自然概念对齐来增强深度学习的可解释性。这种新方法旨在克服现有模型的局限性，例如泛化能力受限和潜在的信息泄露。MM-CBMs在零样本分类和图像检索等任务中，在提供更大透明度的同时，准确性显著提高，并能与黑盒模型竞争。另一篇论文研究了概念瓶颈模型（CBMs）中符号检测的可靠性，提出了一种缓解模型可能利用捷径导致解释不可靠问题的策略。