研究人员开发了SPARSEUP,一种用于学习稀疏检索模型的新训练方法,可提高其效率和有效性。该方法通过优化logit分布和引入每位置扇出控制来应对这些模型的训练挑战。此外,还采用词汇合并策略来删除冗余条目,从而实现更精简的编码器。当应用于LateOn骨干网络时,SPARSEUP在BEIR-13基准测试中,在1.5亿参数以下的稀疏编码器中取得了56.4的平均nDCG@10的最新成果。 AI
影响 提高了稀疏检索模型的效率和有效性,可能增强搜索和信息检索系统。
排序理由 关于学习稀疏检索模型新训练方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.IR (Information Retrieval) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →