RA-DPO

新的 RA-DPO 方法通过使用标注者一致性来改进性别歧视检测

研究人员开发了 RA-DPO，一种通过结合标注者一致性和 Token 级置信度分数来改进在线内容性别歧视检测的新颖方法。该方法在 EXIST 2023 数据集上进行了测试，并使用 OpenAI 的 GPT-4o 进行了微调，旨在解决性别歧视分类的固有主观性。RA-DPO 在训练过程中选择高价值偏好对，并允许在推理时弃权，证明了关注可靠数据可以降低训练成本而不牺牲性能，并在较低覆盖率水平下提高准确性。