研究人员开发了GRaSP，一种用于检索增强生成（RAG）系统的新型重评分层，旨在优化地理分布式基础设施中的性能。该系统通过在其选择过程中纳入延迟和可选成本惩罚，解决了广域延迟、跨区域出口成本和数据驻留规则等挑战，而无需重新训练模型。GRaSP已显示出显著的延迟降低，将P90获取延迟降低了41%，同时保持了大部分检索召回率，并在改进端到端问答任务方面显示出潜力。 AI
影响 这项研究可能导致在分布式环境中更高效、更具成本效益地部署RAG系统，从而改善用户体验并降低运营成本。
排序理由 该集群包含一篇学术论文，详细介绍了一种优化检索增强生成系统的新方法。
在 arXiv cs.IR (Information Retrieval) 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2610.26938v1 Announce Type: cross Abstract: Retrieval-Augmented Generation (RAG) is increasingly served across geo-distributed cloud and edge infrastructures, where wide-area latency, cross-region egress cost, and data-residency rules compete with retrieval quality. Convent…
Retrieval-Augmented Generation (RAG) is increasingly served across geo-distributed cloud and edge infrastructures, where wide-area latency, cross-region egress cost, and data-residency rules compete with retrieval quality. Conventional pipelines rank by semantic similarity alone …