ConstBERT

FLINT架构提高了检索模型的效率和可扩展性

研究人员推出了一种新颖的FLINT（Fixed-budget Late INTeraction，固定预算的后期交互）架构，旨在提高多向量检索模型的可扩展性。FLINT采用基于注意力的池化技术，用固定数量的嵌入向量来表示查询和文档，并对称地应用于双方。与现有的令牌级匹配方法相比，这种方法显著降低了存储需求并加快了检索速度。在包括复杂查询在内的各种基准测试中，FLINT都展现出相当或更优的排名效果，同时还实现了索引大小和端到端检索时间的实质性缩减。