Debias It Yourself

新框架教大型语言模型认知偏见缓解技术

研究人员开发了一个名为“自己动手”（DIY）的框架，用于教授大型语言模型（LLM）认知偏见缓解技术。该框架将五种以人为中心的干预措施转化为大型语言模型的程序，利用三种范式：展示上下文示例、指令调优和引导式自我修正。跨多个模型和偏见基准的实验表明，“训练+修正”和“单独修正”方法显著减少了偏见，平均偏见低至2%，同时保持了90%的推理准确性，并提高了在未见过偏见维度上的性能。