研究人员开发了ReuseGR,一个新颖的生成式检索系统,旨在提高效率和个性化。该系统将离线查询规划与在线个性化完成解耦,允许一个较小的模型跨相似请求复用一个较大模型的计算。这种方法显著降低了延迟,同时保持或提高了检索质量和用户参与度指标,这在离线实验和用户级别的A/B测试中得到了证明。 AI
影响 该系统解耦和复用计算的方法可以显著降低检索应用中大型生成式模型的服务成本。
排序理由 该条目是一篇研究论文,详细介绍了一种新的生成式检索系统。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.IR (Information Retrieval) 阅读 →
- alphaXiv
- BudgetCut
- CatalyzeX
- CORE Recommender
- DagsHub
- FLNA
- Gotit.pub
- Grpo
- Hugging Face
- Influence Flower
- Path KD
- ReuseCut
- ReuseGR
- ScienceCast
- Semantic IDs
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →