Omission Blindness

LLM法官难以检测AI临床笔记中的遗漏

一项新的研究论文探讨了大型语言模型（LLM）法官在检测AI生成的临床笔记中的错误方面的局限性。虽然这些法官在识别添加或更改的内容方面很有效，但它们在可靠地检测遗漏方面存在困难，而遗漏是最常见的错误类型。该研究提出了一种结构化的任务，其中LLM法官首先列出转录记录中建立的所有事实，然后根据此列表检查临床笔记，从而以低的误报率显著提高了对缺失信息的检测能力。