Colbert
PulseAugur coverage of Colbert — every cluster mentioning Colbert across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
MoganColBERT-TR: 新型土耳其语多向量检索模型发布
研究人员开发了 MoganColBERT-TR，这是一种专为土耳其语设计的新型多向量检索模型。该模型基于先前训练的 ModernBERT 编码器，并通过蒸馏将其适配到 ColBERT 目标。MoganColBERT-TR 在 token 级别表示查询和文档，并利用晚期交互评分机制。在五个土耳其语 BEIR 数据集上的评估表明其表现强劲，优于更大的模型，并取得了具有竞争力的第二名。
-
Hugging Face 详细介绍如何训练多向量嵌入模型
Hugging Face 发布了一篇博客文章，详细介绍了如何使用 sentence-transformers 库来训练和微调多向量嵌入模型。这种方法借鉴了 ColBERT 式的后期交互检索，允许进行 token 级别的匹配以保留细粒度信号，从而在特定领域提高检索性能。该文章提供了实际示例，并展示了一个微调后的多向量编码器模型，即使在单个消费级 GPU 上训练，也能在专业数据集上超越通用检索模型。
-
Hugging Face 推出 MultiVectorEncoder 以实现高级检索
Hugging Face 推出了 MultiVectorEncoder，这是其 sentence-transformers 库中的一个新工具，支持使用多向量嵌入模型。这些模型受 ColBERT 架构的启发，通过保留单个 token 的嵌入而不是将其压缩成一个向量来处理文本。这种方法通过在评分阶段推迟查询和文档嵌入之间的交互，并使用 MaxSim 运算符进行比较，从而实现更细致的检索。MultiVectorEncoder 支持各种检查点…
-
ColGraphRAG通过晚期交互图像检索增强多模态问答能力
研究人员推出了一种新颖的多模态问答方法ColGraphRAG，该方法通过专注于图谱链接图像的晚期交互评分来增强证据检索。此方法旨在通过确保相关视觉资产（包括特定图像块和标记）在用于下游推理的结构化证据图中得到充分表示来提高准确性。在MultimodalQA基准上的初步评估表明，这种晚期交互评分技术能够更好地检索图像候选对象，并随后提高问答性能，尤其是在视觉证据至关重要的场景中。
-
PLAID-PRF 使用质心感知伪相关反馈增强密集检索
研究人员推出了一种用于增强 ColBERT 等多向量密集检索模型的新方法 PLAID-PRF。该技术利用 PLAID 框架内的质心类令牌来执行伪相关反馈 (PRF)，根据检索到的顶部结果有效地重构查询向量。PLAID-PRF 利用内部 PLAID 质心向量，保持了较低的计算成本，在 MS MARCO 和 BEIR 等各种基准测试中显示出检索效率的显著提高。
-
Qdrant 通过原生 ColBERT 重排将 RAG Token 成本降低 67%
Qdrant 推出了原生 ColBERT 重排功能，显著降低了检索增强生成 (RAG) 系统的 Token 成本。这项新功能允许 Qdrant 直接在数据库内进行 Token 到 Token 的比较，无需外部重排服务及其相关的网络开销和成本。通过集成这项先进的重排功能，Qdrant 用户可以在隔离相关信息方面实现更高的准确性，从而在 RAG 流水线中将 Token 消耗量估计减少 67%，这在法律 AI 用例中得到了证明。
-
新理论解释晚期交互检索模型，引入 Signed MaxSim
研究人员从理论上量化了晚期交互检索模型的表征能力，特别是那些使用 MaxSim 相似度函数的模型。研究表明，MaxSim 可以精确复制非负稀疏向量之间的内积，并引入了 Signed MaxSim，这是一个能够复制任何实值内积的扩展。这些进展为晚期交互模型的强大实证性能提供了理论基础，并显示了它们在检索任务中超越标准检索方法的潜力，尤其是在涉及否定等复杂查询的任务中。
-
TileMaxSim内核将GPU检索模型速度提升220倍
研究人员开发了TileMaxSim，这是一种新的面向IO的GPU内核，旨在显著加速多向量检索模型（如ColBERT）中使用的MaxSim评分过程。现有实现效率低下，仅利用了可用GPU带宽的一小部分。TileMaxSim通过采用多查询SRAM分块、维度分块和融合乘积量化评分来解决此问题，在NVIDIA H100 GPU上实现了高达80.2%的峰值HBM带宽。这带来了显著的速度提升，能够实现每秒对8200万份文档进行评分，并大大降低了检索任务的延迟。
-
HAKARI-Bench 为检索模型提供轻量级评估 · 跟踪 2 个来源
研究人员推出了 HAKARI-Bench，这是一个轻量级基准，旨在简化检索增强生成和语义搜索的检索架构和效率设置的评估。这个新基准将现有的庞大检索套件重构为更小的数据集，能够对各种检索家族及其效率变体（如降维和量化）进行快速、与模型无关的比较。HAKARI-Bench 表现出高保真度，以高于 0.97 的 Spearman 相关性重现了大型基准的排名，使其成为开发过程中模型选择和回归检测的宝贵工具。
-
生产级AI搜索需要张量，而非仅仅是向量
生产级AI系统需要的不仅仅是基本的向量搜索，因为后者难以整合结构化属性、业务规则、个性化和机器学习排名模型。张量通过允许多维数据结构（包括嵌入、稀疏特征和元数据）在统一的检索和排名过程中进行处理，从而提供了一种解决方案。这种原生张量的方法解决了将多个系统拼接起来以完成复杂检索任务所固有的碎片化和延迟问题。
-
Dr-DCI框架通过动态工作区扩展实现代理搜索的扩展
研究人员开发了Dr-DCI，一个旨在增强大型语料库代理搜索能力的新框架。该系统通过检索相关文档动态地扩展本地工作区，使代理能够在受控环境中执行直接语料库交互操作。这种方法旨在克服代理直接操作海量数据集时遇到的性能和稳定性问题，结合了检索的可扩展性和直接交互的精确性。
-
ColBERTSaR 使用量化技术将 ColBERT 索引缩小 70%
研究人员开发了 ColBERTSaR，一种使用乘积量化对 ColBERT 索引进行稀疏化的新颖方法。该技术显著减小了索引大小，比之前的实现小 50-70%，同时保持了检索效果。该方法将 ColBERT 索引转换为真正的倒排索引，解决了查询时文档令牌收集和解压缩的低效率问题。
-
新的检索方法用稀疏编码取代 K-means，实现更快、更准确的结果
研究人员推出了一种名为单阶段稀疏检索（SSR）的新方法，用于高效的多向量检索，该方法绕过了传统的 K-means 聚类。SSR 利用稀疏自编码器创建高维、稀疏的 token 嵌入表示，从而可以使用倒排索引代替压缩。这种方法显著减少了索引时间和检索延迟，同时提高了准确性，在 BEIR 基准测试中优于现有基线。
-
新的GPU内核加速AI检索任务，减少内存使用
研究人员开发了Flash-MaxSim，这是一种新颖的感知IO的融合GPU内核，旨在优化晚期交互检索评分。该新内核计算与标准实现相同的分数，但避免了物化大型中间相似性张量，从而显著减少了内存使用并提高了速度。Flash-MaxSim在A100 GPU上实现了高达3.9倍的性能提升，并使用了高达16倍的推理内存，从而能够处理以前无法实现的更大批次大小和语料库大小。
-
ProtoCol模型利用晚期交互增强蛋白质同源物搜索
研究人员开发了ProtoCol，这是一种旨在改进蛋白质同源物搜索的新型模型，特别是在序列相似性低的“暮光区”等挑战性场景中。ProtoCol利用残基级嵌入和受ColBERT启发的晚期交互方法，以更好地识别远程同源性。该方法在关键基准测试中优于现有的基于序列组成、基于比对和基于池化蛋白质语言模型的方法。
-
新的多语言ColBERT模型在临床文本分析中表现出色
研究人员开发了ClinicalEncoder26AM，一个多语言可诊断的ColBERT模型，专门用于临床和生物医学文本。该模型将token级别的语义与受BioLORD-2023启发并使用合成和标注数据增强的临床潜在空间ClinicalMap25对齐。ClinicalEncoder26AM的后训练过程利用了BGE-M3，并整合了包括合成笔记和MedMentions等标注数据集在内的各种临床资源。在MultiClinNER共享任务上进行评…
-
SilentRetrieval 攻击通过投毒文档劫持 RAG 系统
研究人员开发了“SilentRetrieval”，这是一种旨在破坏检索增强生成 (RAG) 系统的新型两阶段攻击。该方法使用对抗性数据投毒注入经过处理的文档，这些文档在语义上得以保留且流畅，使其难以检测。该攻击在劫持各种基准测试和 LLM 的 RAG 输出方面取得了很高的成功率，即使在低投毒率下也是如此，尽管防御措施会以牺牲延迟为代价来减轻其有效性。
-
新方法增强向量检索的相似性和多样性
研究人员提出了两种新方法来提高密集向量检索的效率和有效性，这是现代机器学习系统的核心组成部分。第一种方法 VRSD 通过提出一种新颖的优化问题和一种无参数启发式方法，解决了平衡搜索结果中的相似性和多样性这一挑战，并展示了优于现有基线方法的性能。第二种方法 LEMUR 将多向量检索的延迟问题作为监督学习问题来处理，并将推理简化为单向量搜索，从而实现了显著的加速。
-
新的TA2CL框架提高了脑电图情绪识别的准确性
研究人员开发了一个名为时间异步对齐对比学习（TA2CL）的新框架，以改进跨主体脑电图（EEG）情绪识别。该方法通过采用受自然语言处理（NLP）技术启发的细粒度局部匹配机制，解决了不同个体之间脑电图信号的时间失配问题。TA2CL框架自适应地对齐脑电图数据的片段，有效减少了受试者间差异和时间延迟的影响。在FACED、SEED和SEED-V等公共数据集上的实验表明，性能显著提升，在SEED数据集上的准确率高达86.4%。