ejection fraction

新研究质疑医疗领域人工智能模型的可解释性

研究人员开发了一种新方法来评估概念瓶颈模型的可解释性，特别是在超声心动图等临床应用中。他们发现，仅仅准确预测结果是不够的；中间变量或“概念”也必须具有物理意义。通过在超声心动图数据上训练视频 Transformer 编码器，他们证明了仅为射血分数预测进行优化的模型可能会产生不准确的容积估计，因为目标函数对于缩放是不变的。在绝对单位中添加监督显著提高了这些中间容积预测的准确性，这凸显了验证概念层不仅仅是预测准确性的重要性。