MRVQ

新的MRVQ方法通过弹性的维度和速率优化向量搜索

研究人员推出了一种新颖的、用于冻结嵌入的后置残差量化器——Matryoshka Residual Vector Quantization (MRVQ)。MRVQ旨在通过允许维度和速率弹性来优化向量搜索，使服务能够根据不断变化的延迟、质量和内存预算，在不同的嵌入维度和索引比特率之间进行切换。虽然与单独调整的量化器相比，MRVQ未能达到绝对最高的质量，但它显著减少了RAM使用量，并为弹性检索系统提供了具有竞争力的低内存运行点。