研究人员开发了一个名为 LAAM(LLM 主动近似模型)的新型混合检索框架,旨在使大型语言模型(LLM)检索更节能。LAAM 在传统关键字匹配和完整 LLM 分析之间使用一个轻量级的学习预测器作为中介。通过主动学习循环,该系统将 LLM 评估集中在信息量最大的文档上,在保持检索效果的同时显著降低了计算成本。实验表明,对于冗长的查询,LAAM 在仅使用完整 LLM 重排系统能量的 3.3% 的情况下,达到了完整 LLM 重排系统平均 P@10 分数的 87%。 AI
影响 该框架可以实现更节能、更具成本效益的基于 LLM 的搜索和检索系统的部署。
排序理由 该集群描述了一篇详细介绍改进 LLM 检索效率的新方法的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.IR (Information Retrieval) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →