Qdrant 推出了原生 ColBERT 重排功能，显著降低了检索增强生成 (RAG) 系统的 Token 成本。这项新功能允许 Qdrant 直接在数据库内进行 Token 到 Token 的比较，无需外部重排服务及其相关的网络开销和成本。通过集成这项先进的重排功能，Qdrant 用户可以在隔离相关信息方面实现更高的准确性，从而在 RAG 流水线中将 Token 消耗量估计减少 67%，这在法律 AI 用例中得到了证明。 AI
影响 通过优化 RAG 系统中的 LLM Token 使用量，降低了 AI 应用的运营成本。
排序理由 文章详细介绍了数据库产品 (Qdrant) 的特定功能增强，该增强提高了 AI 应用 (RAG) 的效率，而不是发布新模型或基础研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
