AsterVec 的开发者创建了一个新的基于磁盘的向量数据库,旨在在一个可配置的内存预算内运行,以解决本地 LLM 和嵌入式向量存储之间的 RAM 竞争。与传统的内存数据库或依赖 RAM 的向量数据库不同,AsterVec 将其索引分为两个针对磁盘优化的结构:用于图边的 LSM 树和用于向量的基于页的数组,只有上层导航层和缓存驻留在 RAM 中。在 SIFT 数据集上的基准测试表明,AsterVec 在查询和插入速度方面显著优于 Chroma 和 LanceDB,同时使用的内存大大减少,使其适用于内存受限的本地 AI 应用。 AI
影响 通过减少向量数据库的内存占用,能够运行更大的本地 LLM 和 RAG 系统。
排序理由 AI 基础设施的新软件工具发布。
- AsterVec
- Chroma
- Elasticsearch
- Hierarchical Navigable Small World graphs
- lancedb
- pgvector
- SIFT dataset
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →