MedPerturb

研究人员改进LLM提示技术，以获得可靠、无偏见的输出

一篇新研究论文提出了一个框架，通过将有针对性的干预与一般释义效应进行比较，来更准确地评估语言模型对特定因素（如性别偏见）的敏感性。研究发现，在考虑了模型的一般敏感性后，先前报道的医学数据集中的性别偏见在很大程度上微不足道，尽管在职业数据中检测到了方向性偏见。此外，一份开发者指南概述了系统化的提示技术，包括特定角色的指令和负面约束，以提高LLM在生产环境中输出的可靠性，并使用GPT-4o-mini模型演示了这些方法。