Rank-Deviation Quality

新指标RDQ评估多答案检索系统

研究人员引入了一种名为Rank-Deviation Quality (RDQ) 的新评估指标，专为检索和排序系统设计。RDQ可适应具有不同数量正确答案的查询，从单个结果到多个有效选项。它通过考虑检索到的参考项的位置和排序偏差的惩罚来对候选排名进行评分，并设有参数来控制对错误排序的容忍度。RDQ基于序数排名运行，适用于使用成对或列表式判断的标注者，并且它同时考虑了返回的项及其顺序。