HR@K

群体推荐评估偏差被揭露，影响已报告的进展

一篇新发表在arXiv上的论文强调了群体推荐系统中潜在的评估偏差。研究表明，像HR@K和NDCG@K这样的标准指标可能对评估期间如何解决平局过于敏感，从而可能夸大已报告的进展。作者提出了一种考虑平局的评估协议，并表明在考虑了这种偏差后，许多已报告的改进会显著减弱，从而导致对方法排名的重新理解。他们还建议，温度缩放的BPR可以在没有严重平局膨胀的情况下提供好处。