两篇新研究论文强调了临床AI决策中的关键安全问题。第一篇论文介绍了Decision2Care,一种通过为电子健康记录(EHR)行动分配概率来实现高诊断准确性和速度的代理,同时记录其决策过程以供审计。然而,第二篇论文揭示,即使是能够达成正确最终诊断的AI系统,也可能经过对患者造成重大伤害的中间决策。该研究还发现,虽然纠正性反馈可以解决错误,但它可能会引入新的安全风险,这凸显了对AI决策轨迹进行稳健审计的必要性,而不仅仅是关注最终结果。 AI
影响 强调了AI安全评估超越最终准确性,评估临床环境中中间决策过程安全性的关键需求。
排序理由 两篇在arXiv上发表的关于临床决策中AI安全问题的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →