isotonic calibration

新框架结合人类判断和 AI 分数以改进评估

研究人员推出了一种名为 Aggregate-then-Calibrate (AtC) 的新颖两阶段框架，旨在改进以人为中心的评估任务。该方法通过结合人类判断和模型生成的分数，解决了仅依赖其中一种的局限性。第一阶段聚合比较性判断，考虑标注者可靠性，形成共识排名。第二阶段校准预测模型分数，以确保与该排名的序数一致性，同时保留定量信息。理论分析和实证结果表明，与仅使用人类或模型评估的方法相比，AtC 提高了准确性和鲁棒性。