PulseAugur
实时 05:58:56

新的离线评估任务预测排名系统展示份额变化

研究人员引入了“展示份额预测”作为排名系统的一项新颖的离线评估任务,旨在预测新模型在在线 A/B 测试之前会如何将展示份额分配给不同的优化目标。该方法解决了标准离线指标可能无法捕捉到可能降低下游效用的展示份额分配变化的问题。所提出的框架利用了结构因果模型和统计学习方法,实验表明,对于已知模型,随机森林模型在历史数据上将 L1 误差降低了 49%,但对于未见过模型的性能有所不同。 AI

影响 为排名系统引入了一种新的离线评估方法,有可能在在线测试前提高下游效用的预测准确性。

排序理由 介绍排名系统新评估任务的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.IR (Information Retrieval) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的离线评估任务预测排名系统展示份额变化

报道来源 [1]

  1. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Murat Ali Bayir ·

    Impression Share Prediction: An Offline Evaluation Task for Ranking Systems

    Offline evaluation is a major gateway before online evaluation of ranking models in A/B testing. Standard offline metrics measure predictive accuracy, but are only a surrogate for downstream utility: a model can improve them while redistributing impressions across objective bucke…