PulseAugur
实时 11:40:45
English(EN) Real-Time Hard Negative Sampling via LLM-based Clustering for Large-Scale Two-Tower Retrieval

基于LLM的聚类为实时检索模型训练生成硬负例

一篇新的研究论文介绍了一种自监督方法,用于在大规模双塔检索模型的训练过程中实时生成“硬负例”。该技术利用大型语言模型(LLM)对媒体表示进行聚类,确保生成的负例比传统的批内或批外方法更具挑战性和信息量。所提出的框架旨在无缝集成到生产系统中,能够以最小的计算开销处理数十亿个数据点。在大型在线系统中的实验和部署证明了其优于现有行业方法的性能,表明它可以打破反馈循环并减少推荐中的流行度偏差。 AI

影响 该方法通过生成更具信息量的训练数据,有可能提高推荐系统的有效性,从而减少偏差并改善用户体验。

排序理由 关于信息检索中基于LLM的聚类新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.IR (Information Retrieval) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

基于LLM的聚类为实时检索模型训练生成硬负例

报道来源 [1]

  1. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Aameek Singh ·

    基于LLM聚类的实时硬负例采样用于大规模双塔检索

    The two-tower model has been widely used for large-scale recommendation systems, particularly in the retrieval stage. Industry standards for training two-tower models typically involve in-batch and/or out-of-batch negative sampling. However, these methods often produce easy negat…