clinical AI systems

新的CSS指标揭示临床AI模型的隐藏缺陷

研究人员开发了一种名为因果敏感性评分（CSS）的新指标来评估临床AI系统。该指标通过引入五种临床干预措施来测试模型对患者数据变化的响应能力。与传统的基于覆盖率的指标相比，六种领先的AI模型在使用CSS评估时表现出截然不同的结果，其中一个模型在CSS上的排名最高，而在其他指标上排名最低。值得注意的是，所有接受测试的模型都表现出安全盲点，在手术状态改变时未能调整建议，这是现有评估方法所忽略的缺陷。