PulseAugur
实时 20:44:39
English(EN) DeRes: Decoupling Residual Stability and Adaptivity for Scalable CTR Prediction

DeRes架构通过双残差路径改进CTR预测

研究人员推出了一种新颖的Transformer基础CTR预测模型架构DeRes,它解耦了残差稳定性和自适应性。这种新设计采用了并行的恒等映射和注意力块残差路径,能够更好地保留早期信号并更有效地回忆长距离依赖关系。DeRes在大规模数据集上表现出卓越的性能,在计算成本仅略微增加的情况下超越了现有模型,并提供了显著更陡峭的计算-AUC缩放定律。 AI

影响 引入了一种更高效的CTR预测架构,有望改进推荐系统和定向广告。

排序理由 该集群包含一篇详细介绍CTR预测新模型架构的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.IR (Information Retrieval) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Zhengwei Zheng ·

    DeRes:解耦残差稳定性和适应性以实现可扩展的CTR预测

    Transformer-based CTR models face a growing bottleneck at the residual connection: under Pre-Norm, early user-interest signals are diluted layer by layer; the identity skip cannot forget stale interests; and each layer sees only its immediate predecessor, losing long-range cross-…