Nikolette Pedersen

研究发现 MedCLIP 模型易受真实世界捷径攻击

研究人员调查了广泛用于医疗 AI 的 MedCLIP 视觉语言模型中真实世界捷径的存在。通过将线性分类探测器附加到其 ResNet-50 视觉编码器的中间层，他们观察到，尽管最终探测器取得了高 AUROC 分数，但其校准效果很差。分析表明，捷径，例如引流管等局部模式和扫描仪噪声等弥散模式，在模型内的不同深度出现。该研究还强调了 NIH-CXR14 和 PadChest 数据集中的数据质量问题，强调需要高质量的数据来确保即使是最先进模型的可靠结论。