MaxSimum
PulseAugur coverage of MaxSimum — every cluster mentioning MaxSimum across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的H+ Embedding系统统一了全局和令牌级检索
研究人员开发了H+ Embedding,这是一种新颖的检索系统,旨在提高信息检索的准确性,尤其是在医学等专业领域。该系统通过创建一种统一的方法来解决现有方法的局限性,该方法考虑了从全局文档向量到单个令牌的多个粒度级别。H+ Embedding 预测可变长度的短语分区,并使用重要性引导的选择过程来平衡检索质量和计算成本。在各种科学和医学任务上的实验表明,其短语检索分支的性能明显优于全局检索,并且在资源需求较少的情况下,其性能与令牌级方法非常接近。
-
新理论解释晚期交互检索模型,引入 Signed MaxSim
研究人员从理论上量化了晚期交互检索模型的表征能力,特别是那些使用 MaxSim 相似度函数的模型。研究表明,MaxSim 可以精确复制非负稀疏向量之间的内积,并引入了 Signed MaxSim,这是一个能够复制任何实值内积的扩展。这些进展为晚期交互模型的强大实证性能提供了理论基础,并显示了它们在检索任务中超越标准检索方法的潜力,尤其是在涉及否定等复杂查询的任务中。
-
TileMaxSim内核将GPU检索模型速度提升220倍
研究人员开发了TileMaxSim,这是一种新的面向IO的GPU内核,旨在显著加速多向量检索模型(如ColBERT)中使用的MaxSim评分过程。现有实现效率低下,仅利用了可用GPU带宽的一小部分。TileMaxSim通过采用多查询SRAM分块、维度分块和融合乘积量化评分来解决此问题,在NVIDIA H100 GPU上实现了高达80.2%的峰值HBM带宽。这带来了显著的速度提升,能够实现每秒对8200万份文档进行评分,并大大降低了检索任务的延迟。
-
Spectral Retrieval 增强 LLM 代理本地化搜索准确性
研究人员推出 Spectral Retrieval,一种用于大型语言模型 (LLM) 多代理系统的新型即插即用重排阶段。该方法利用跨 token 嵌入的多尺度 sinc 卷积来提高本地化检索准确性,在 per-token MaxSim 和 mean-pool 检索技术之间进行插值。Spectral Retrieval 在基准测试中展示了显著的性能提升,在不要求模型重新训练的情况下提高了召回率和平均倒数排名,使其适用于需要在共享语料库上…