Map Pong

新AI框架从标注者分歧中学习性别歧视检测

研究人员开发了一个名为多智能体视角偏好优化（MAP-PO）的新框架，以解决文本标注中关于性别歧视的分歧问题。MAP-PO不平均化不同的意见，而是根据标注者的标注行为对其进行聚类，并微调各个大型语言模型智能体以模仿每个聚类的视角。该方法在EXIST 2024数据集上进行了测试，证明了特定聚类训练对于智能体准确表示不同标注风格至关重要，而共享的团队级信号有助于维持校准。