GPU 加速将 HNSW 向量搜索时间缩短 57.7%

研究人员优化了分层可导航小世界 (HNSW) 算法，该算法是许多向量数据库和 RAG 系统的核心组件，通过 CUDA 实现 GPU 加速。通过并行化距离计算而非图遍历本身，他们在不影响召回率的情况下将查询时间缩短了 57.7%。该项目为大学竞赛而开发，在特定参数下还实现了 84% 的原始搜索时间缩减和 33% 的更快的索引构建速度，所有代码均已在 GitHub 上公开。 AI

影响 通过显著降低向量搜索延迟，加速 RAG 和推荐系统。

排序理由 该条目详细介绍了算法在特定应用中的技术优化，包括性能指标和代码可用性。[lever_c_demoted from research: ic=1 ai=1.0]

在 Towards AI 阅读 →

• CUDA
• Hierarchical Navigable Small World graphs
• Miguel Gutierrez
• Oracle
• Politecnico Di Milano
• retrieval-augmented generation
• Syaqui Rahmat Perdana
• Vector Search

• 基础设施
• 产品

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →