vector database
PulseAugur coverage of vector database — every cluster mentioning vector database across labs, papers, and developer communities, ranked by signal.
10 天有情绪数据
-
LLM 的语义缓存:通过重用答案来降低成本
本文详细介绍了大型语言模型(LLM)的语义缓存,这是一种通过存储和重用先前响应来降低成本的方法。文章解释了语义缓存的工作原理:将用户请求转换为嵌入(embeddings),然后与向量数据库中存储的嵌入进行比较,以查找相似的 past queries。如果找到足够相似的查询,则返回其相应的 LLM 响应,从而绕过新的模型调用。该博文还讨论了安全注意事项,区分了语义缓存适用的场景(如 FAQ 和文档搜索)和不适用的场景(如个性化数据或工具…
-
AI幻觉:使用RAG理解和减少LLM错误
AI模型,特别是大型语言模型(LLMs),会产生不准确或虚构的信息,这种现象被称为幻觉。这通常源于知识缺失、查询模糊或模型倾向于预测看似合理的文本而非事实核查。检索增强生成(RAG)通过为LLMs提供来自知识源的外部上下文来帮助缓解这一问题,但它并非万无一失的解决方案。由于检索相关信息不佳、文本分块问题或LLM误解提供的上下文,仍可能发生故障。
-
GraphRAG 与 Vector RAG:选择正确的企业搜索方法
企业搜索选择 GraphRAG 还是 Vector RAG 取决于所提问题的性质。Vector RAG 擅长检索与查询语义相似的信息,回答“什么看起来像这样”。而 GraphRAG 则通过导航实体之间的关系来回答需要组合的复杂问题,例如“什么与此相关,以及如何相关?”。虽然向量搜索对于答案包含在单个文档中且内容陈旧问题不构成问题的简单查找已足够,但 GraphRAG 对于需要通过遍历实体关系从多个来源组装信息的问题是必需的。许多成熟的…
-
专家建议在编写代码前设计RAG系统
本文讨论了如何着手设计一个检索增强生成(RAG)系统,强调在深入技术实现之前提出正确问题的重要性。作者建议在选择LangChain、LlamaIndex等工具或Chroma、Pinecone、Faiss等特定向量数据库之前,先关注理解问题和数据需求。文章还讨论了GPT-4和Claude 3等大型语言模型在RAG系统设计中的能力。
-
开发者建议不要立即使用向量数据库构建AI助手
开发者 Omar Baruzzo 建议不要立即为AI助手实施向量数据库。他建议首先使用全文搜索和SQL过滤器等现有搜索方法建立基线。应根据真实用户问题评估此基线,以识别精确匹配失败的具体领域。然后,应仅选择性地添加向量嵌入来解决这些已识别的弱点,特别是在词汇差异导致检索错误时。Baruzzo 还强调了维护单独的向量索引所带来的额外复杂性和成本,包括同步、模型更新和访问控制,并敦促开发人员在采用向量搜索之前优先考虑传统搜索方法。
-
DocuSense 推出用于结构化文档数据提取的 AI 平台
DocuSense 是一个由 AI 驱动的平台和 REST API,旨在从发票、银行对账单和税务表格等各种文档中提取结构化数据。它通过采用文档 AI 和检索增强生成 (RAG) 来理解文档类型、字段、关系,甚至实现智能文档搜索,超越了传统的 OCR。该平台旨在通过 Webhook 和结构化 JSON 输出,简化与现有应用程序(如 ERP、CRM 和会计系统)的集成。
-
RAG与微调:选择正确的AI聊天机器人增强方式
检索增强生成(RAG)是一种增强聊天机器人的技术,它允许聊天机器人在用户查询时访问和引用外部文档,而无需进行广泛的再训练。当聊天机器人需要根据特定、最新的信息(如产品手册或公司政策)回答问题时,这种方法特别有用。另一方面,微调会改变模型的行为、语气或格式以适应重复性任务,但在事实回忆方面效果较差。部署RAG聊天机器人的实用清单包括:定义一个有限的使用场景,通过清理和分块来准备文档,将检索与生成分开测试,确保有安全的回退机制并提供基于证…
-
新论文详述 RAG 系统配置故障及修复方法 · 追踪 4 个来源
一篇新论文首次对检索增强生成 (RAG) 系统的配置问题进行了大规模实证研究,分析了 10 个不同系统中的 654 个实际问题。该研究对症状、根本原因和修复方法进行了分类,揭示了问题常常在不同阶段显现,而非其起源阶段。该论文为从业者提供了九个可操作的见解,以改进 RAG 配置的测试、定位和修复。这项工作填补了对 RAG 系统故障系统性理解的空白,这些故障通常与其复杂、可配置的性质有关。
-
AI内存解决方案解决开发者的LLM限制
软件开发中的挑战不在于构建成本,而在于知道构建什么。LLM在内存方面存在困难,在交互之间会忘记信息,通过结合上下文内、外部、情景式和语义式内存技术可以解决这个问题。这些内存解决方案对于AI代理的有效运作以及开发者识别可行的产品创意至关重要。
-
AI Agent构建:为新开发者解释的关键术语
作者拥有丰富的AI营销经验,通过亲身经历分享了构建AI Agent的10个必备术语。关键概念包括聊天机器人和Agent的区别,定义Agent能力的“工具”的关键作用,以及将Agent连接到电子邮件和电子表格等应用程序的“连接器”。文章还解释了“上下文窗口”作为Agent的短期记忆,以及“记忆”作为跨会话保留信息的机制,这对Agent的有效运行至关重要。
-
论文详述用于结构化知识检索和推理的人工智能
本论文介绍了一种将非结构化领域特定文本转化为结构化知识以进行检索和推理的新型架构。它提出了二元出血(Binary Bleed),一种用于非负矩阵分解(NMF)的自适应二元搜索方法,以及具有自动潜在特征选择(HNMFk)的分层NMF,用于深度自适应主题建模。这些方法填充了知识图谱和向量存储,实现了张量结构化检索增强生成(T-SRAG),以实现动态查询路由和提高语义保真度。在网络安全、法律、材料科学和医疗保健领域的应用证明了检索精度、趋势…
-
新连接器为 AI 知识图谱优化 Typeform 数据
已开发一款新的连接器,用于简化 Typeform 调查回复到 AI 应用的导入过程,特别是用于 Cognee 的知识图谱和检索增强生成 (RAG) 管道。该连接器解决了原始调查数据缺乏语义上下文且难以被大型语言模型有效处理的挑战。通过将表单数据序列化为结构化文本,该连接器将问题映射到答案并解决歧义,从而实现更准确的实体和关系提取,以构建知识图谱。
-
10 份用于 RAG、代理和网关的 AI 参考架构
本文介绍了十种 AI 项目的参考架构,这些架构旨在做到厂商中立且易于理解。这些图示说明了常见的模式,例如具有基本或高级搜索功能的检索增强生成 (RAG)、与模型上下文协议 (MCP) 服务器交互的 AI 代理、具有编排器和工作程序的多个代理系统,以及用于管理模型调用和成本的 LLM 网关。这些架构还包括用于输入和输出验证的护栏,以及用于关键操作的人工干预流程。
-
OpenAI 弃用 Assistants API,转向无状态模型构建代理
OpenAI 已弃用其 Assistants API,转向以 Responses 和 Conversations API 为中心的新的无状态模型。此更改将状态管理责任转移给开发人员,与之前的托管、持久线程系统相比,提供了更多的控制、可预测的成本和更高的性能。Responses API 中的新 file_search 工具通过处理文档分块、嵌入和索引来简化检索增强生成 (RAG),使模型能够智能地访问私有知识并附带引用。
-
AI发展或使向量数据库过时,报告称
turbopuffer.com上的文章《RIP, vector database》认为,由于AI和大语言模型的进步,向量数据库正变得过时。作者提出,传统数据库现在能够处理向量搜索,使得专门的向量数据库不再必要。这种转变归因于AI功能越来越多地集成到主流数据库系统中。
-
Olud Pulse 追踪开源AI采用情况:Open Sora、Whisper、pgvector 领跑各类别 · 追踪3个来源
Olud Pulse,一个追踪开源AI采用情况的工具,发布了其最新得分。Open Sora 在AI视频生成领域领先,Whisper 在语音识别和文本转语音领域得分最高,pgvector 在向量数据库类别中排名第一。这些得分是使用来自GitHub、Docker、Python Package Index和Node Package Manager的数据计算得出的。
-
Redis 集成 AI 功能,成为全功能 AI 数据库
Redis 增强了其数据库功能,以全面支持 AI 应用。此次更新包括引入向量搜索、语义缓存和新的 Agent 内存层,无需为这些功能使用单独的数据库。这些功能已在 Redis Enterprise、Redis Cloud 和 Redis Stack 中提供。
-
研究发现AI嵌入会像人脑一样遗忘
新研究表明,AI记忆系统(特别是使用向量数据库和嵌入的系统)中回忆能力的退化,与人类记忆的遗忘模式相似。研究发现,嵌入的方差会集中在一小部分维度上,无论其标称维度是多少,这会导致记忆之间的竞争加剧。这种竞争,而不是基于时间的衰减,是遗忘的主要驱动因素,甚至可能导致生成与实际检索信息无法区分的错误记忆。
-
在向量数据库中发现断点协议漏洞
一种新的安全漏洞,被称为断点协议,已在向量数据库中被识别。该协议允许在标准的检索增强生成(RAG)管道中进行权限提升。该问题源于这些管道如何处理企业文档权限,可能暴露敏感信息。
-
嵌入模型更改会悄无声息地破坏 RAG 系统
在检索增强生成 (RAG) 系统中更改嵌入模型会因创建不兼容的向量空间而悄悄地降低性能。即使新模型输出相同维度的向量,其学习到的几何形状也是独一无二的,使得与旧模型向量的比较不可靠。这种不兼容性可能导致系统自信地检索不相关的文档,因为余弦相似度得分可能因巧合而非实际的语义相关性而显得很高。为防止这种情况,开发人员应将嵌入模型更改视为模式迁移,执行完整的重新索引、对向量进行版本标记,并在部署前对新索引进行影子评估。