RaBitQ: Quantizing High-Dimensional Vectors with a Theoretical Error Bound for Approximate Nearest Neighbor Search
PulseAugur coverage of RaBitQ: Quantizing High-Dimensional Vectors with a Theoretical Error Bound for Approximate Nearest Neighbor Search — every cluster mentioning RaBitQ: Quantizing High-Dimensional Vectors with a Theoretical Error Bound for Approximate Nearest Neighbor Search across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
MRVQ 提供具有更小内存占用的弹性向量搜索
研究人员开发了 Matryoshka Residual Vector Quantization (MRVQ)，这是一种新颖的向量搜索方法，可同时优化维度和速率弹性。MRVQ 允许单个索引通过截断残差阶段或嵌入坐标来服务各种（维度、速率）对，与现有方法相比，显著减少了内存使用量。虽然 MRVQ 提供了可观的内存节省，但检索质量会略有下降，尽管在匹配的代码大小下，其性能优于 PQ 和 OPQ 等其他技术。研究还指出，QINCo2 模型在高…
-
SOLO索引通过扫描式采样倒排列表提供认证召回率，并减少内存占用
研究人员推出了一种新颖的度量空间近似最近邻搜索索引SOLO，它无需启发式排序即可提供认证召回率。该方法直接从索引本身计算召回率，能够通过对查询样本进行真实值传递来认证所有操作点的性能。与HNSW、DiskANN和SPANN等现有方法相比，SOLO在吞吐量方面具有竞争力，并且内存使用量显著减少，在大型数据集上以最小的内存占用实现了高召回率。
-
新研究分析低比特量化对向量搜索决策的影响
一篇新研究论文探讨了低比特量化在向量搜索中的有效性，重点关注其如何影响排序和图剪枝算法的决策。该研究引入了一种无分布分解来界定比较翻转的概率，并推导出依赖残差的协方差感知界限。它还提出了一个用于Vamana邻居选择的确定性耦合定理，并使用高斯预言机将这些发现与表示几何联系起来，表明标准化精确边距比全局秩相关性更能预测排序和剪枝翻转率。
-
块球量化改进了LLM推理和嵌入存储
研究人员推出了一种新颖的基于旋转的向量量化算法——块球量化（BlockQuant）。该新方法通过在球体上量化块来更好地保留旋转嵌入的几何形状，性能优于 EDEN、RabitQ 和 TurboQuant 等现有技术。在嵌入数据集和长上下文 LLM 推理任务上的实验表明，实际改进与理论收益一致。
-
新论文发现 TurboQuant 性能不如 RaBitQ，并指出可复现性问题
一篇新的技术说明在统一框架下重新审视了 RaBitQ 和 TurboQuant 量化方法，并对其进行了比较。分析发现，在内积估计、最近邻搜索和 KV 缓存量化的大多数测试设置中，TurboQuant 的性能不如 RaBitQ。此外，该说明记录了原始 TurboQuant 论文中报告的运行时和召回率结果的可复现性问题，表明从发布的实现中无法复现某些报告的结果。