Hierarchical Navigable Small World graphs
PulseAugur coverage of Hierarchical Navigable Small World graphs — every cluster mentioning Hierarchical Navigable Small World graphs across labs, papers, and developer communities, ranked by signal.
9 天有情绪数据
-
AI模型引发对软件工程未来的争论，基准测试揭示性能指标 · 追踪3个来源
近期AI社区的讨论正在就Fable和GPT-Astra等新模型对软件工程角色的影响展开辩论。同时，技术基准测试也正在出现，例如在10万个嵌入上进行3.5毫秒的NumPy搜索，突显了AI实现的实际性能考量。这些对话涉及向量数据库的效率和必要性以及诸如分层可导航小世界图等索引技术。
-
向量数据库：深入探讨 RAG 索引、混合搜索和扩展
本文深入探讨了实现检索增强生成 (RAG) 系统的技术方面，重点关注向量数据库的关键作用。文章探讨了分层可导航小世界 (HNSW) 和倒排文件索引 (IVF) 等各种索引技术，以及产品量化方法。文章还涵盖了混合搜索策略和扩展检索以有效处理大型数据集的方法，并引用了 Pinecone、Weaviate、Qdrant 和 Milvus 等流行的向量数据库解决方案。
-
GraphRAG 面临安全恐慌，新漏洞浮现
检索增强生成（RAG）的最新进展同时突显了效率的提升和新兴的安全问题。几篇 arXiv 论文探讨了比传统 GraphRAG 更便宜的替代方案，例如 Matryoshka Hierarchical RAG（MatRAG），它使用可变维度嵌入来实现多跳问答，并降低了成本。然而，在 GraphRAG 管道中发现了一个新漏洞，即使是辅助索引结构的一小部分被篡改，也可能显著劫持系统的答案。研究还在继续改进 RAG 策略，研究结果表明，对于科学问…
-
pgvector HNSW 过滤错误导致 RAG 系统返回零结果
一位开发者在使用 PostgreSQL 中的 pgvector 扩展的检索增强生成（RAG）系统中遇到了一个关键问题。问题源于 pgvector 的分层可导航小世界（HNSW）索引过滤结果的方式：近似索引首先选择候选向量，然后 PostgreSQL 应用 WHERE 子句。这意味着对于较小的数据集或租户（例如，一个包含 4,000 个块的表，占 200,000 个块表的 2%），WHERE 子句可能会过滤掉所有候选项，导致即使存在 L…
-
ModelLakeFishing 框架支持从百万级模型湖中进行高效检索
研究人员开发了 ModelLakeFishing，一个新颖的框架，旨在从包含数百万个可重用模型的庞大集合（称为模型湖）中高效检索合适的模型。该系统将元数据和历史性能数据整合到图中，学习模型和查询的嵌入，并使用分层可导航小世界 (HNSW) 索引进行快速候选检索。该框架通过最初检索 1,000 个候选模型而不进行详尽评分来优先考虑速度，然后根据数据集、任务和评估指标等特定查询标准进行重新排序，以确定排名前 10 的模型。
-
pgvector 扩展为 PostgreSQL 带来向量搜索，提供成本节约
PostgreSQL 的 pgvector 扩展提供了一种直接在现有关系数据库中存储和查询向量嵌入的方法。这种方法利用了 PostgreSQL 现有的 ACID 合规性、连接、备份和安全基础设施，对于已运行 PostgreSQL 的用户来说具有成本效益。虽然它在处理多达约 100 万个向量时表现良好，但对于更大的数据集，其可扩展性和 RAM 要求可能会成为限制因素，这表明对于那些用例，应使用 qdrant 或 Milvus 等专用向量数据库。
-
SOLO索引通过扫描式采样倒排列表提供认证召回率，并减少内存占用
研究人员推出了一种新颖的度量空间近似最近邻搜索索引SOLO，它无需启发式排序即可提供认证召回率。该方法直接从索引本身计算召回率，能够通过对查询样本进行真实值传递来认证所有操作点的性能。与HNSW、DiskANN和SPANN等现有方法相比，SOLO在吞吐量方面具有竞争力，并且内存使用量显著减少，在大型数据集上以最小的内存占用实现了高召回率。
-
LLM引导的剪枝增强最近邻搜索索引
研究人员开发了一个名为LLM-Guided Graph Pruning (LGP) 的新框架，以提高近似最近邻搜索 (ANNS) 索引的性能。该方法使用大型语言模型 (LLMs) 来优化现有的 ANN 图索引，通过识别并用语义相关的替代项替换结构上价值较低的邻居。实验表明，LGP 在 DiskANN 和 HNSW 等各种 ANN 索引上都能提高端到端检索性能，优于传统的贪婪搜索和基于 LLM 的重新排序。
-
RAG管道通过切换向量索引到HNSW速度提升3.2倍
一位Mastodon用户报告了其检索增强生成（RAG）管道的性能显著提升。通过从FAISS IVF-Flat切换到分层可导航小世界图（HNSW），他们实现了3.2倍的速度提升，将延迟从120毫秒降低到38毫秒。该用户还强调了在任何索引类型或维度更改后重新索引向量存储的关键步骤，以保持最佳性能。
-
HNSW 向量搜索可能悄无声息地错过数据；请调整 ef_search
使用分层可导航小世界 (HNSW) 图的向量搜索系统由于其近似性质，可能会悄无声息地错过相关数据。`ef_search` 参数控制图遍历期间候选列表的大小，至关重要。如果 `ef_search` 设置得太低，尤其是在结合元数据过滤器使用时，搜索可能会无法返回索引中存在的结果。建议开发人员通过将 HNSW 结果与精确扫描进行比较来衡量召回率，并调整 `ef_search`，或者可能需要使用更高的 `m` 和 `ef_constructi…
-
量子颗粒球学习提升机器学习效率与鲁棒性
两篇新研究论文介绍了量子颗粒球学习（QGB-W$k$NN）和颗粒球量子聚类（GBQC）框架。这些方法旨在提高机器学习任务的效率和鲁棒性，尤其是在嘈杂的环境中。QGB-W$k$NN通过使用量子增强的颗粒球和感知纯度的加权决策机制来增强分类能力，而GBQC则通过在应用量子特征学习和噪声过滤内聚机制之前将数据压缩成颗粒球来降低计算开销。与现有方法相比，这两种方法在各种数据集上都展现出具有竞争力的性能和更高的鲁棒性。
-
混合搜索解析：结合 BM25 和向量嵌入以实现 AI
本文解释了混合搜索的概念，它结合了传统的基于关键词的搜索（如 BM25）和现代的向量搜索。向量搜索使用嵌入将文本表示为数值向量，从而实现语义理解和更快速地检索相似含义。该过程包括嵌入文档、将这些向量与索引（如 HNSW）一起存储在数据库中、使用相同的模型嵌入用户查询，然后使用余弦相似度等相似性度量来查找最近邻向量。这种方法是支持检索增强生成（RAG）系统的基础。
-
新的浏览器内 SQL 数据库 Zeta-Lite 增强了 AI Agent 的内存
研究人员开发了 Zeta-Lite，这是一种专为 AI Agent 设计的新型浏览器内 SQL 数据库引擎。这款基于 WebAssembly 的数据库将 Zeta 引擎编译成一个紧凑的构件，提供了以前在基于浏览器的 SQL 解决方案中无法实现的功能。Zeta-Lite 支持具有快照隔离的并发事务和写时复制数据库分支，使 AI Agent 能够安全地探索推测性工作。
-
新研究揭示向量搜索可扩展性的亚线性幂律
一篇新发表在arXiv上的论文引入了“亚线性幂律”来描述图基向量搜索的可扩展性。研究人员发现，当数据集大小（N）相对于内在维度较小时，搜索成本随N^c（其中c小于1）增长。随着数据集变大且内在维度增加，这种行为会转变为亚多项式增长。该论文提供了一个统一的理论和预测模型，用于权衡搜索成本、插入成本和召回率。
-
新研究可根据嵌入统计数据预测ANN搜索性能
一篇新研究论文介绍了一种根据嵌入统计数据预测近似最近邻（ANN）搜索索引性能的方法。该论文证明，在索引构建之前，就可以利用原始嵌入的无标签统计数据准确预测索引行为（如召回率）。该方法旨在优化索引选择、定价和召回率预测，以应对不断变化的语料库，而无需为每个语料库使用转换机制。
-
新的基于磁盘的向量数据库 AsterVec 在本地 AI 中使用更少的 RAM
AsterVec 的开发者创建了一个新的基于磁盘的向量数据库，旨在在一个可配置的内存预算内运行，以解决本地 LLM 和嵌入式向量存储之间的 RAM 竞争。与传统的内存数据库或依赖 RAM 的向量数据库不同，AsterVec 将其索引分为两个针对磁盘优化的结构：用于图边的 LSM 树和用于向量的基于页的数组，只有上层导航层和缓存驻留在 RAM 中。在 SIFT 数据集上的基准测试表明，AsterVec 在查询和插入速度方面显著优于 Ch…
-
自定义 HNSW 实现的基准测试显示其慢于暴力搜索
一位开发者从头开始构建并测试了一个检索引擎，将自定义的 Hierarchical Navigable Small World (HNSW) 实现与 Faiss 库进行了比较。令人惊讶的是，在处理数千份文档的数据集时，暴力搜索方法的平均查询延迟优于 HNSW。开发者将此归因于 HNSW 在 Python 中指针追逐和解释器成本的开销，并将其与在小型数据集上进行暴力搜索的密集矩阵乘法的效率进行了对比。研究还强调，嵌入模型的计算时间明显高于…
-
新研究揭示了RAG防御系统在抵御协调投毒攻击方面的基本局限性
研究人员展示了当前针对检索增强生成（RAG）中使用的向量检索系统的协调投毒攻击的防御措施存在根本性局限。这些旨在过滤恶意文档的准入时防御措施，可以通过对手注入少量看似无害的文档来规避。这些文档结合起来，可以有效地劫持目标查询，迫使RAG系统输出攻击者捏造的信息。研究表明，这些攻击并非理论上的，在真实世界的管道中成功率高达88%，并且现有的分类器无法区分恶意和合法的利基上传。
-
向量数据库准入控制应对工作负载漂移下的检索热点
研究人员开发了一种新的向量数据库准入控制机制，以减轻检索热点（单个文档主导搜索结果）的影响。该系统维护一组哨兵查询，确保文档仅在与这些哨兵的相似度低于预定阈值时才被接纳。研究表明，虽然这种方法会产生辅助索引的维护成本，但即使在工作负载漂移下也能有效控制文档的暴露度，这在真实数据集上得到了验证，并已在PostgreSQL/pgvector中实现。
-
Cerebras 知识库通过 MCP 服务器和改进的检索功能不断发展
这一系列博文详细介绍了为 Cerebras 开发知识库系统，重点关注其检索和代理功能。最初，该系统使用混合检索方法和 LLM 重排序器，实现了高召回率但难以精确排序。随后的博文引入了 LLM 蒸馏和“突发”技术来优化语料库，提高了深层检索的召回率。最终的迭代专注于创建一个 MCP（元认知处理）服务器，该服务器公开无 LLM 的检索工具，允许 Claude Code 等外部代理进行规划和合成，从而降低成本并提高确定性。