Debiasing-DPO

新的 Debiasing-DPO 方法将 LLM 偏见减少 84%

研究人员开发了一种名为 Debiasing-DPO 的新方法，以减轻大型语言模型 (LLM) 中由虚假社会背景引起的偏见。这些偏见会严重影响模型的判断，尤其是在评估教师绩效等高风险应用中，无关信息会扭曲评估结果。传统的监督微调和直接偏好优化等方法被证明不足。Debiasing-DPO 将对比推理与监督微调相结合，在应用于 Llama 和 Qwen Instruct 模型时，偏见减少了 84%，准确性提高了 52%。