Fairness-Aware Concept Unlearning

新方法在不损害性能的情况下减少大型语言模型的偏见

研究人员开发了一种名为“公平感知概念遗忘”（Fairness-Aware Concept Unlearning, FACU）的新方法，以减少大型语言模型（LLMs）中的偏见。该技术专门针对模型表示中的刻板印象和反刻板印象关联进行平衡。在多个大型语言模型和数据集上的评估表明，FACU显著减少了内在的性别偏见，从而提高了下游公平性，而不会实质性地影响预测性能。研究表明，将FACU与其他缓解策略（如反事实数据增强）相结合，可以进一步提高公平…