通过强化学习进行的文档优化可提升小型模型的检索性能

研究人员开发了一种新颖的文档优化技术，使用强化学习（特别是GRPO）来提高检索质量。该方法对语言模型进行微调，将文档转换为更符合目标检索器预期查询分布的表示，并以检索改进作为奖励。将此方法应用于OpenAI的text-embedding-3-small模型，在代码和视觉文档检索任务上显著提升了性能，甚至优于更大的text-embedding-3-large模型。该技术在与Jina-ColBERT-V2等模型的微调结合时也证明了有效性，检索准确率大幅提高。 AI

影响 这项技术可以使更小、更高效的检索模型达到与更大、更昂贵的模型相当的性能，从而影响信息检索系统的效率和可访问性。

排序理由 详细介绍检索系统中文档优化新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• arXiv
• GRPO
• Jina-ColBERT-V2
• Omri Uzan
• OpenAI
• text-embedding-3-large
• text-embedding-3-small

• 论文
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →