Victor Lorena De Farias Souza

新框架提出受控状态以实现可问责的临床AI

本文介绍了一个用于AI系统可问责纵向临床推理的框架，区分了“生成上下文”和“受控状态”。文章提出，临床AI的成功不取决于LLM的流畅性，而取决于患者状态随时间的治理。作者们概述了问责制的四项信息要求：具有版本控制的不可变证据账本、独立的信念状态、观察过程模型以及声明级别的因果类型。他们还提出了一个六级成熟度框架，并指出当前以LLM为中心的实践虽然能力很高，但成熟度较低。