M1 Ultra Mac

UC Berkeley 的 LEANN 向量索引将 RAG 存储需求从 201GB 削减至 6GB

UC Berkeley Sky Computing Lab 的研究人员开发了 LEANN，这是一个开源向量索引，可显著降低 RAG 系统的存储需求。通过按需重新计算嵌入而不是存储它们，LEANN 将一个 6000 万个块的索引从 201 GB 压缩到仅 6 GB，使得在个人设备上运行大规模语义搜索成为可能。这项在 MLSys 2026 上荣获最佳研究论文奖的创新，在存储成本大幅降低的同时实现了与现有方法相当的准确性，尽管它会增加查询延迟。