qdrant
PulseAugur coverage of qdrant — every cluster mentioning qdrant across labs, papers, and developer communities, ranked by signal.
- 2024-01-11 partnership Qdrant partnered with Replit to launch new developer templates.
13 天有情绪数据
-
Qdrant 通过原生 ColBERT 重排将 RAG Token 成本降低 67%
Qdrant 推出了原生 ColBERT 重排功能,显著降低了检索增强生成 (RAG) 系统的 Token 成本。这项新功能允许 Qdrant 直接在数据库内进行 Token 到 Token 的比较,无需外部重排服务及其相关的网络开销和成本。通过集成这项先进的重排功能,Qdrant 用户可以在隔离相关信息方面实现更高的准确性,从而在 RAG 流水线中将 Token 消耗量估计减少 67%,这在法律 AI 用例中得到了证明。
-
带有 pgvector 扩展的 PostgreSQL 在基准测试中优于专用向量数据库
一项对 pgvector、Qdrant 和 Pinecone 在 5000 万个向量上进行的最新基准测试显示,带有 pgvectorscale 扩展的 PostgreSQL 在性能上显著优于专用向量数据库。在相同的 AWS 硬件上,以 99% 的召回率目标,PostgreSQL 实现了每秒 471 次查询,而 Qdrant 仅为每秒 41 次查询,相差 11.5 倍。虽然 PostgreSQL 在速度、成本和操作复杂性方面对大多数当前…
-
DevOps Open Agent 通过 Qdrant 驱动的 RAG 获得记忆功能
DevOps Open Agent 已更新,增加了记忆功能,使其能够存储和检索过去的调查上下文。此功能利用了 Qdrant 的检索增强生成 (RAG) 技术,来嵌入和保存与 Kubernetes 和 AWS 相关的已完成调查。当用户发起新调查时,该代理可以访问类似的过往案例,提供关于反复出现的根本原因和成功修复的上下文信息,从而为 DevOps 团队建立机构记忆。该系统支持自托管,允许用户自带 Qdrant 实例,并可以与 OpenA…
-
RAG token 成本取决于上下文组装,而非向量数据库
一项技术分析显示,检索增强生成(RAG)系统中的 token 消耗主要由上下文组装策略决定,而非向量数据库本身。文章比较了常见的做法,并指出具有典型设置的朴素 RAG 会发送大约 5,000 个 token,通常包括冗余的文档版本。LangChain 的 'refine' 模式等框架会显著增加 LLM 调用次数和 token 量,而 LlamaIndex 的默认设置虽然更精简,但仍有发送重复内容的风险。分析认为,SWIRL 5 通过去…
-
RAG文档验证面临嵌入之外的挑战
文章讨论了在检索增强生成(RAG)系统中维护用于向量数据库的文档的数据完整性和版本控制所面临的挑战。文章强调,传统的诸如文件名、文件大小甚至PDF元数据等方法,由于不一致和不完整性,在识别不同版本但内容相同的文档方面并不可靠。作者认为,虽然正则表达式和大型语言模型(LLMs)可以帮助提取元数据,但由于其易碎性和概率性,它们不足以作为主要的验证机制。提出的解决方案涉及一个多阶段验证流程,该流程结合使用MongoDB进行结构化元数据管理和…
-
开发者创建 LLM 的语义缓存以削减云成本
一位开发者创建了一个 Go 库,通过实现语义缓存机制来解决大型语言模型 (LLM) 的扩展挑战。该解决方案通过采用两级查找系统来解决因相似用户查询而重复且昂贵的 LLM 调用问题。第一级使用确定性哈希处理相同的请求,而第二级利用向量相似性搜索来识别语义上相似的提示,从而降低企业的云账单。该库被设计为后端无关的,支持各种向量数据库和嵌入模型。
-
向量数据库对决:Pinecone、Qdrant、Weaviate、Milvus、pgvector 对比评测
向量数据库的格局正在迅速演变,Pinecone、Weaviate、Chroma、Milvus、Qdrant 和 pgvector 等主要参与者正在争夺 2025 年的主导地位。这些数据库对于 RAG 系统、推荐引擎和语义搜索等应用至关重要,能够对机器学习模型生成的高维向量嵌入进行高效的相似性搜索。虽然它们都旨在提供近似最近邻 (ANN) 搜索,但在性能、成本和易用性方面存在显著差异,这使得开发人员在选择时必须做出关键决定。
-
构建生产级RAG聊天机器人以减少AI幻觉
本文详细介绍了如何构建一个生产级的检索增强生成(RAG)聊天机器人,旨在通过将响应 grounding 在已验证的数据上来最大限度地减少幻觉。文章概述了一个涉及用户界面、FastAPI后端、LangChain RAG管道和Qdrant向量数据库的系统架构。该过程包括加载和分块文档、使用OpenAI的模型生成嵌入,并将这些嵌入存储在Qdrant中以实现高效检索。
-
使用 LangGraph、Ollama 和嵌入式 Qdrant 在本地运行 RAG Agent
本文详细介绍了如何使用 LangGraph、Ollama 和嵌入式 Qdrant 向量存储完全在本地离线运行检索增强生成(RAG)Agent。该设置通过配置系统使用本地模型进行聊天和嵌入,从而无需 API 密钥。作者演示了如何通过配置在本地 Ollama 和远程 OpenAI 提供商之间进行切换,以及如何在嵌入式 Qdrant 实例和远程服务器之间进行切换。该过程包括使用 Qwen3.5:9b 等模型进行聊天和使用 BGE M3-Em…
-
作者构建混合搜索引擎,结合了向量搜索和关键词搜索
作者在 LLM Zoomcamp 2026 期间详细介绍了他们构建混合搜索引擎的经验。他们解释了传统关键词搜索和向量搜索之间的基本区别,强调向量搜索通过将文本转换为数值向量来匹配含义而非精确的词语。该项目包括使用轻量级 ONNX 模型实现文本嵌入,使用 NumPy 从头开始构建向量搜索,以及对长文档进行分块以提高检索准确性。最后,作者使用倒数排名融合 (RRF) 集成了关键词搜索和向量搜索,以结合两种方法的优点,从而获得更精确的搜索结果。
-
LangGraph Agent 流式传输 OpenAI 兼容的 SSE 并附带推理面板
本文详细介绍了如何为 LangGraph Agent 创建一个 OpenAI 兼容的 API,使其能够与 Open-WebUI 等标准 OpenAI 客户端一起使用。文章解释了必要的 Server-Sent Events (SSE) 格式,并提供了将 LangGraph 的内部事件流转换为预期块格式的代码片段。该帖子还介绍了如何通过将工具调用嵌入 `` 标签来展示 Agent 的推理过程,以便在 UI 中显示“思考面板”。
-
用户寻求关于构建带有文档高亮功能的本地 RAG 系统的建议
一位用户正在寻求关于构建一个本地、离线的检索增强生成(RAG)系统来处理文档的指导。该系统旨在处理各种文件类型,自动摄取文档,并执行结构化和比较查询。主要挑战包括选择合适的向量数据库(如 Qdrant 或 pgvector),确定在本地运行 GraphRAG 系统(如 Neo4j 或 Microsoft GraphRAG)的可行性,以及实现一个能够高亮特定文本片段并提供引用的用户界面,类似于抄袭检测工具。
-
使用混合检索和智能摄取构建企业 RAG 管道
本文详细介绍了如何为企业知识库构建一个健壮的检索增强生成(RAG)管道,并强调 RAG 是一门工程学科而非魔法。文章指出了关键字搜索对于大型、不一致语料库的局限性,并解释了向量搜索虽然更好,但可能过度检索。提出的解决方案是结合关键字搜索和向量搜索的混合检索层,通常由 Pinecone、Qdrant 和 Weaviate 等现代向量数据库支持。文章还强调了精心设计的摄取管道的重要性,包括分层分块策略以及仔细选择针对领域特定数据进行评估的…
-
企业 RAG 管道需要混合检索和智能摄取
为企业知识库构建有效的检索增强生成 (RAG) 系统需要仔细的工程设计,特别是在检索和摄取阶段。关键词搜索在处理大型、不一致的语料库时常常失败,而纯粹的向量搜索可能会过度检索不相关的信息。结合关键词和向量搜索以及倒数排名融合等技术的混合方法提供了更强大的解决方案,尽管它增加了复杂性。设计摄取管道涉及战略性分块(例如,从小到大检索)、选择在领域特定数据上进行评估的适当嵌入模型,以及构建向量数据库模式以保留上下文。RAG 的数据 API …
-
RAG vs. 微调:为知识 vs. 行为选择正确的LLM方法
在检索增强生成(RAG)和微调之间为LLM进行选择,关键在于目标是传授新知识还是改变模型行为。RAG被认为是注入事实知识的更优方法,尤其是在知识频繁变化时,因为它可以在不重新训练的情况下轻松更新和引用来源。相反,微调最适合修改模型的沟通风格、语气或格式,但成本更高且学到的信息会过时。一种新方法模型上下文协议(MCP)也正在兴起,它通过允许AI直接处理检索到的信息来简化RAG,有可能使许多用例中传统的复杂RAG系统过时。
-
为本地AI开发选择RAG后端
作者提供了一份关于为本地AI开发选择检索增强生成(RAG)后端的指南。他们推荐SQLite-VSS和SQLite-vec,因为它们采用零基础设施的方法,非常适合单机设置。对于自托管解决方案,Qdrant被强调为一个强大的选项,尤其是在其HNSW(分层可导航小世界)能力方面。
-
新的索引框架SPI提升向量数据库中RAG的性能
研究人员推出了一种名为语义金字塔索引(SPI)的新型向量数据库索引框架,旨在增强检索增强生成(RAG)管道。SPI根据查询的复杂性和语义粒度自适应检索深度,将嵌入组织成多个分辨率级别。这种方法允许在不进行完全索引重建的情况下高效地流式插入新向量,并支持渐进式的粗粒度到细粒度搜索。
-
开发者放弃RAG,转而使用结构化知识构建AI导师
一位开发者发现,尽管使用了Qdrant、Colpali/ColQwen和Jina AI的高级向量检索方法,检索增强生成(RAG)在辅导AI方面表现不佳。核心问题在于RAG优化的是语义相似性,但AI需要的是解题方法上的相似性,而这并未在问题图像中编码。通过放弃RAG,转而直接为大型语言模型(LLM)构建和应用结构化的解题方法,AI的准确性得到了提高,并且客户无需工程协助即可更轻松地更新知识库,同时还降低了基础设施成本。
-
RAG 详解:检索增强生成的工作原理
检索增强生成(RAG)是大型语言模型(LLM)应用中的一种关键架构模式,旨在克服知识截止和幻觉等限制。RAG 的工作原理是首先从外部知识库检索相关信息,然后利用这些信息来指导 LLM 的响应。该过程包括一个离线索引阶段,在此阶段将文档分块、嵌入成向量并存储在向量数据库中,随后是一个在线查询阶段,在此阶段将用户查询嵌入并用于查找相似的文档块,供 LLM 生成答案。
-
开源代理式 RAG 平台优先考虑配置而非代码
已开发出一个用于客户支持的代理式 RAG 开源平台,强调通过配置而非代码进行更新,以便于更新。该设计优先考虑意图路由器以高效地引导查询,将复杂的代理循环保留给更具挑战性的请求。关键组件包括一个 LLM、用于工具集成的 MCP 服务器、一个向量数据库和一个文档管道,并强烈建议在开发过程早期实施评估。