bi-encoder

RAG Rerank 通过优先排序相关文档来提高 LLM 的准确性

一种称为 RAG Rerank 的新技术通过增加一个重排步骤，显著提高了检索增强生成（RAG）系统的准确性。标准的 RAG 根据向量相似性检索文档，这可能导致不相关文档被优先排序。RAG Rerank 使用交叉编码器模型重新评估一组精选文档的相关性，确保将最相关的信息传递给语言模型。这种方法以略微增加的延迟和成本为代价提高了准确性，使其对于答案错误成本高昂的应用特别有价值。