Narrative Anchoring Gap

临床LLM中发现新的“叙事锚定”偏见

研究人员在临床语言模型中发现了一种新的偏见，称为叙事锚定效应。在这种效应下，以不同语言风格呈现的相同医疗事实可能导致不同的诊断。这种偏见在多个大型语言模型中都有观察到，即使没有人口统计学信息也是如此。为了解决这个问题，研究人员开发了一种名为NarrativeShield的方法，该方法在诊断前提取和验证临床事实，显著减少了偏见，并在对准确性影响很小的情况下提高了决策的稳定性。