Nikos Papanikolopoulos

皮肤病学AI模型对深色皮肤色调存在偏见

一项发表在arXiv上的新研究强调了皮肤病学概念数据集中存在的显著的肤色偏见，特别是广泛使用的SkinCon数据集。研究发现，与浅色皮肤相比，在深色皮肤上，作为皮肤炎症关键指标的红斑的注释频率较低，比值比为0.17。相反，色素沉着和色素减退在深色皮肤上的注释频率更高。这种依赖于肤调的注释模式会被概念瓶颈模型学习到，可能导致模型同意遗漏而非纠正的诊断错误。研究表明，在依赖使用这些数据集训练的AI模型进行临床解释之前，必须对概念注释进行亚组偏见审计。