Concept Bottleneck Models
PulseAugur coverage of Concept Bottleneck Models — every cluster mentioning Concept Bottleneck Models across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新方法探索多样化、同样准确的AI模型
研究人员开发了一种新方法，可以有效地探索概念瓶颈模型（CBM）的“罗生门集”。该集合包含多个模型，它们具有相似的预测性能，但内部逻辑不同。所提出的框架使用并行适配器构建、检查点方案和概念多样性目标，在单一训练过程中生成这些多样化但准确的CBM。这种方法比传统方法占用更少的内存，并能实现更值得信赖的模型选择、解决类别间混淆以及在决策中可靠地弃权。
-
新的基于图的模型增强了视觉解释的可解释性
研究人员开发了一种基于图的概念瓶颈模型（G-CBM），该模型增强了视觉解释中的可解释性。这个新框架使用非负矩阵分解执行无监督概念发现，并将这些概念表示为图中的节点。G-CBM 将区域级特征与这些概念节点匹配，从而实现概念接地并捕捉图像中的重复性。然后，图注意力网络对概念之间的依赖关系进行建模以进行推理。该模型在 ImageNet 和 HAM10000 等数据集上展示了改进的性能，在皮肤镜检查基准测试上取得了与监督方法相媲美的结果。
-
新型Caption Bottleneck Models通过自然语言增强AI可解释性
研究人员推出了一种名为Caption Bottleneck Models (CaBM) 的新颖框架，旨在通过使用自然语言标题而非预定义的概念集来增强机器学习的可解释性。与需要专家定义或LLM生成概念列表的传统Concept Bottleneck Models (CBMs) 不同，CaBM利用大型多模态模型生成的自由文本。该方法通过严格基于图像派生的标题训练分类器，确保了无泄露的架构，并在训练后自主发现数据集特定的概念。实验表明，CaB…
-
新的COCOLogic-V2数据集推动了AI视觉归纳推理能力
研究人员推出了COCOLogic-V2，一个旨在提升AI模型视觉归纳推理能力的新数据集。该数据集专注于以物体为中心的真实世界图像，并涵盖了很大一部分一阶逻辑，目标是超越通常用于评估可解释模型（如概念瓶颈模型和程序合成方法）的简单任务。使用COCOLogic-V2进行的评估显示，当前模型难以处理接近边界的负样本，凸显了视觉归纳推理仍然是一个持续的挑战。
-
新研究解决 LVLM 幻觉问题并改进视觉-语言学习
研究人员正在开发新方法来提高大型视觉-语言模型 (LVLM) 的鲁棒性和能力。一种名为 SeeMe 的方法侧重于通过工程化视觉标记来抑制不相关信息同时保留关键证据，从而减轻幻觉。另一个框架 Text as Partial Constraint (TPC) 旨在通过将多视图字幕视为不完整监督并提炼共识语义核心来创建更可靠的表示。此外，还在探索像 HiMe 这样的新架构，用于长视域的视觉-语言-动作控制，将具身智能解耦为分层组件，以实现更…
-
新的NeRD框架提升了AI在医学诊断中的可解释性
研究人员推出了一种新颖的框架NeRD（Neuro-Symbolic Rule Distillation），旨在提高医学图像诊断中的可解释性和效率。NeRD通过生成简洁的、基于本体的推理链来解决现有方法的局限性，而无需手动制定规则。在皮肤数据集上的实验表明，NeRD在诊断性能和临床合理性方面表现出色，并通过专家在环研究实现了有效的概念级干预。
-
新AI模型增强深度学习的可解释性和可靠性 · 跟踪4个来源
研究人员引入了多模态概念瓶颈模型（MM-CBMs），通过将图像和文本嵌入与自然概念对齐来增强深度学习的可解释性。这种新方法旨在克服现有模型的局限性，例如泛化能力受限和潜在的信息泄露。MM-CBMs在零样本分类和图像检索等任务中，在提供更大透明度的同时，准确性显著提高，并能与黑盒模型竞争。另一篇论文研究了概念瓶颈模型（CBMs）中符号检测的可靠性，提出了一种缓解模型可能利用捷径导致解释不可靠问题的策略。
-
新框架增强3D生成模型的可解释性
研究人员开发了一个名为3D-CBM的框架，通过集成概念瓶颈模型（Concept Bottleneck Models）来增强3D生成模型的可解释性。该方法旨在通过将潜在表征与人类定义的概念对齐来弥合深度几何学习中的语义鸿沟。该框架在概念验证实验中已证明其有效性，在概念预测方面取得了高准确率，并能够对3D模型中的错误进行精确干预以进行纠正。
-
AI概念学习由几何框架统一
研究人员开发了一个几何框架，统一了AI模型中的监督和无监督概念学习。该方法将概念瓶颈模型（CBMs）和稀疏自编码器（SAEs）都视为学习形成概念锥的线性方向。该研究提出了评估SAEs发现的概念与CBMs中人类定义的概念的匹配程度的指标，并确定了最大化这种匹配度的稀疏性和扩展性的最优参数。
-
新型因果神经概率电路增强模型可解释性
研究人员开发了一种名为因果神经概率电路（CNPC）的新模型，以提高概念瓶颈模型（CBM）的可解释性和干预能力。与忽略概念之间因果关系的传统CBM不同，CNPC将神经属性预测器与因果概率电路相结合。通过尊重概念之间的依赖关系，这可以实现更准确的因果推断和更好地处理干预，从而在实验中提高任务准确性。
-
新框架提升可解释医学影像诊断能力
研究人员开发了一种新的半监督医学影像诊断框架，提高了可解释性和效率。该方法利用双层超图学习来模拟临床概念之间的复杂关系，并生成领域自适应的伪标签。在胎盘植入谱系、乳腺超声和皮肤病数据集上的实验证明了该框架在提高诊断准确性和为临床医生提供透明决策方面的有效性。
-
新的基准和方法通过概念瓶颈模型增强了人工智能的可解释性
研究人员正在为概念瓶颈模型（CBM）开发新的基准和方法，旨在通过使用高级概念使人工智能决策更具可解释性。一篇论文介绍了用于评估CBM在决策支持和自动化方面的合成基准，从而可以对影响性能的各种因素进行受控测试。另一种方法侧重于使用视觉 Transformer 中的部分因子化注意力在空间上对 CBM 进行接地，通过确保概念源自相关的图像区域来提高准确性和可解释性。第三篇论文提出了一种概念级注意力机制，以增强细粒度对齐和可解释性，解决预训练…
-
新框架通过多个概念专家增强AI模型的可解释性
研究人员引入了一个名为Mixture of Concept Bottleneck Experts (M-CBE)的新框架，以增强概念瓶颈模型的可解释性和准确性。该框架允许使用多个预测表达式或“专家”，每个表达式可能具有不同的函数形式，将概念映射到任务预测。通过探索这些专家的数量和类型，M-CBE提供了一种平衡预测性能和模型可解释性的灵活方法。
-
新方法揭示深度学习模型中可解释的错误切片
研究人员开发了CB-SLICE，一种用于发现深度学习模型中可解释错误切片的新方法。该方法利用概念瓶颈模型（CBMs）将模型故障直接与人类可理解的语义概念联系起来。通过分析概念的误预测，CB-SLICE识别出表现出共同故障的特定样本组，并找出导致这些错误的关键概念。与现有技术相比，该方法在揭示偏差和提供更准确的模型错误解释方面表现出优越的性能。
-
新型AI模型提升教育领域可信的开放式评分
研究人员开发了REC-CBM，这是一种新颖的概念瓶颈模型，专为教育领域的可信开放式评分而设计。该模型通过明确纳入评分条维度和评分尺度的序数性质，解决了现有系统的局限性。REC-CBM还包括一个用于纠正潜在概念误差的模块，增强了教育工作者的可解释性和可靠性。
-
新型Matryoshka模型提升AI可解释性和效率
研究人员推出了一种新颖的Matryoshka概念瓶颈模型（MCBM）架构，旨在提高深度学习模型的可解释性和效率。MCBMs以分层方式组织概念，允许自适应利用，并将专家干预的成本从线性复杂度降低到对数复杂度。该方法旨在匹配传统模型的性能，同时实现更动态和高效的人机交互。
-
新的CBM漏洞暴露了可解释AI的对抗性攻击风险
研究人员发现了一种新的概念瓶颈模型（CBM）漏洞，CBM是一种可解释的机器学习架构。研究表明，即使输入扰动很小，操纵CBM中的显式概念激活也会导致灾难性的错误分类。为了应对这一问题，研究人员开发了一种名为SPECTRA的新防御机制，该机制显著增强了概念表示空间的鲁棒性，使得目标操纵在计算上不可行，同时保持了高分类准确率。
-
新AI模型将概念与视觉原型关联，以提高可解释性
研究人员开发了原型驱动概念模型（PGCMs），以增强深度学习模型的可解释性。与以前的概念瓶颈模型不同，PGCMs将概念与视觉原型关联，允许直接检查和人工干预以纠正概念对齐。这种方法在保持具有竞争力的预测性能的同时，显著提高了AI系统的透明度和可干预性。
-
新的CLIF方法使用概念级影响函数增强NLP模型的可解释性
研究人员开发了CLIF，一种使用影响函数来提高NLP模型可解释性的新方法。该方法可以识别有益和有害的影响训练数据点，并通过调整这些样本来恢复性能，而无需重新训练。CLIF还分析了概念瓶颈模型内的概念级影响，从而深入了解决策过程。
-
研究发现：视觉模型中的转喻破坏了基于注意力的可解释性
一篇新发表在arXiv上的研究论文引入了视觉模型中的“视觉转喻”概念，即物体的局部编码了关于整个物体的信息。这种现象破坏了基于注意力的可解释性方法，这些方法假设局部性，即局部信息只应编码其对应的图像区域的信息。研究表明，现代视觉 Transformer 违反了这一假设，使得基于局部的推理和可解释性技术不可靠。