Beir
PulseAugur coverage of Beir — every cluster mentioning Beir across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
新方法使用代理搜索轨迹调整密集检索模型
研究人员开发了导航感知嵌入（NIE），一种利用代理搜索工作流中的轨迹来调整密集检索模型的新方法。该方法利用查询、检索和停止轨迹来微调已部署的模型，而无需新的相关性标签、合成查询或 LLM 判断。通过将停止文档视为正面示例并纳入先前的路径文档，NIE 显著提高了检索性能，在 BEIR HotpotQA 等基准测试中，Recall@20 提高了高达 5.8 个点，nDCG@10 提高了 1.9 个点。
-
新研究揭示了RAG防御系统在抵御协调投毒攻击方面的基本局限性
研究人员展示了当前针对检索增强生成（RAG）中使用的向量检索系统的协调投毒攻击的防御措施存在根本性局限。这些旨在过滤恶意文档的准入时防御措施，可以通过对手注入少量看似无害的文档来规避。这些文档结合起来，可以有效地劫持目标查询，迫使RAG系统输出攻击者捏造的信息。研究表明，这些攻击并非理论上的，在真实世界的管道中成功率高达88%，并且现有的分类器无法区分恶意和合法的利基上传。
-
新的DESA方法通过通道不对称扩展增强了基于LLM的检索
研究人员开发了DESA（密集扩展和稀疏锚定），一种用于改进基于LLM的查询扩展的信息检索的新方法。与融合固定前L个密集和稀疏排名的先前方法不同，DESA通过在完整列表融合下评估检索有效性来分离截止和融合的影响。该方法使用LLM生成互补的参考段落，为密集查询增加了新的语义方向，并将词汇线索纳入稀疏检索，而不会扩大原始查询的词汇支持。在七个BEIR数据集上，DESA在nDCG@10和Recall@20方面取得了改进，同时显著降低了密集和稀…
-
新研究探讨静态剪枝和基于LLM的查询扩展在检索系统中的应用
两篇新研究论文探讨了改进信息检索系统的方法。第一篇论文《稀疏检索机制下的静态剪枝》研究了静态剪枝技术如何在不同检索引擎中应用，发现索引端剪枝能持续降低延迟和索引大小，而查询剪枝常被现代系统内化。第二篇论文《Dense Expands, Sparse Anchors》介绍了DESA，一种通道非对称查询扩展方法，它使用LLM生成互补的段落，提高了检索效果并降低了混合检索系统的访问深度。
-
新模型统一稀疏和密集多模态嵌入，提升搜索效率
研究人员推出 UEmbed，一种新颖的仅解码器多模态嵌入模型，能够在单次因果前向传播中生成稀疏词汇和密集表示。该模型旨在将对现代搜索系统至关重要的稀疏检索与多模态输入统一起来。UEmbed 以 2B、4B 和 9B 的规模发布，其中 9B 版本在 MMEB-v2 和 BEIR 等基准测试中取得了有竞争力的结果，性能优于 RzenEmbed 等现有模型。此外，另一篇独立的研究论文提出了 ReLoop-UME 方法，该方法通过在模型深度上…
-
双曲几何检索系统赋能边缘设备上的RAG
研究人员开发了一种新颖的混合检索系统，该系统利用双曲几何来实现边缘设备上的检索增强生成（RAG）。该系统将词嵌入投影到双曲空间，从而能够高效地索引和查询文档。通过结合BM25词汇评分和洛伦兹内积相似度，该系统在多个基准数据集上取得了具有竞争力的NDCG@10分数。该设计优先考虑实时索引和资源高效查询，使其适合在计算能力有限的设备上部署。
-
新的CE-QE方法通过基于语义证据来增强词汇检索
研究人员开发了一种名为交叉编码器查询扩展（CE-QE）的新方法，以改进信息检索系统。该技术解决了传统词汇检索方法（如BM25）的局限性，这些方法在查询和文档词汇不同时无法找到相关文档。CE-QE通过分析应用于语义检索结果的交叉编码器的相关性分数来识别关键术语，并将它们添加到原始BM25查询中。这种方法避免了伪相关反馈中常见的查询漂移，并且不像其他方法那样依赖于生成文本，而是直接使用检索到的段落中的术语。
-
新的RAG防御框架应对数据投毒攻击 · 已追踪3个来源
研究人员开发了新的防御框架，以保护检索增强生成（RAG）系统免受数据投毒攻击。RAGuard在两篇论文中提出，采用分层方法，包括对抗性检索器微调和一种新颖的零知识推理补丁（ZKIP），该补丁使用反事实解码来检测恶意文档，而无需标签。TriShieldRAG提供了一个三阶段的纵深防御策略，包括摄取卫士、检索评分器和跨LLM共识阶段，以对抗知识损坏。这些方法旨在显著降低或消除投毒攻击的成功率，否则这些攻击可能会操纵RAG系统提供错误的答案。
-
PLAID-PRF 使用质心感知伪相关反馈增强密集检索
研究人员推出了一种用于增强 ColBERT 等多向量密集检索模型的新方法 PLAID-PRF。该技术利用 PLAID 框架内的质心类令牌来执行伪相关反馈 (PRF)，根据检索到的顶部结果有效地重构查询向量。PLAID-PRF 利用内部 PLAID 质心向量，保持了较低的计算成本，在 MS MARCO 和 BEIR 等各种基准测试中显示出检索效率的显著提高。
-
KaLM-Reranker-V1：高效文档重排模型发布
研究人员推出 KaLM-Reranker-V1，这是一种新颖的文档重排模型，专为检索系统的效率和灵活性而设计。该模型将查询和文档的计算解耦，从而实现更快的处理速度，同时通过交叉注意力保持强大的相关性建模。KaLM-Reranker-V1 提供 Nano、Small 和 Large 版本，参数量分别为 0.27B、1B 和 4B。在 BEIR 和 MIRACL 等基准数据集上的实验表明，KaLM-Reranker-V1 取得了最先进的性…
-
TileMaxSim内核将GPU检索模型速度提升220倍
研究人员开发了TileMaxSim，这是一种新的面向IO的GPU内核，旨在显著加速多向量检索模型（如ColBERT）中使用的MaxSim评分过程。现有实现效率低下，仅利用了可用GPU带宽的一小部分。TileMaxSim通过采用多查询SRAM分块、维度分块和融合乘积量化评分来解决此问题，在NVIDIA H100 GPU上实现了高达80.2%的峰值HBM带宽。这带来了显著的速度提升，能够实现每秒对8200万份文档进行评分，并大大降低了检索任务的延迟。
-
DREAM论文提出使用自回归建模进行密集检索训练
研究人员开发了DREAM（Dense Retrieval Embeddings via Autoregressive Modeling），一种新颖的训练密集检索系统的方法。与依赖昂贵标注数据的传统方法不同，DREAM利用大型语言模型（LLMs）的下一个词预测目标来监督训练过程。通过将查询-文档相似度分数注入LLM的注意力头，DREAM使预测损失能够为检索器提供梯度。在检索基准上的评估表明，DREAM在各种模型规模下始终优于现有基线。
-
AI代理因搜索索引分布缺陷而失败，而非提示问题
AI代理中一个常见的问题是，由于底层搜索索引的问题，其搜索结果表面上看起来正确，但却导致事实性错误答案。这不是一个提示问题，而是一个分布问题，索引本身是一组冻结的过往相关性判断，而不是语义真相的体现。像BEIR和MTEB这样的标准检索基准可能会加剧这个问题，它们奖励检索与历史相关性匹配的文档，即使代理错误地解释了它们，导致基准测试得分高但实际查询表现不佳。
-
KaLM-Reranker-V1：高效文档重排模型发布
研究人员推出 KaLM-Reranker-V1，这是一种新颖的重排模型，专为大规模检索系统的效率而设计。该模型使用具有 Matryoshka 嵌入池化和交叉注意力的编码器-解码器架构来解耦查询和段落的计算。KaLM-Reranker-V1 有三种尺寸：Nano（0.27B 参数）、Small（1B 参数）和 Large（4B 参数）。在 BEIR、MIRACL 和 LMEB 等基准测试上的实验表明，KaLM-Reranker-V1 取…
-
HAKARI-Bench 为检索模型提供轻量级评估 · 跟踪 2 个来源
研究人员推出了 HAKARI-Bench，这是一个轻量级基准，旨在简化检索增强生成和语义搜索的检索架构和效率设置的评估。这个新基准将现有的庞大检索套件重构为更小的数据集，能够对各种检索家族及其效率变体（如降维和量化）进行快速、与模型无关的比较。HAKARI-Bench 表现出高保真度，以高于 0.97 的 Spearman 相关性重现了大型基准的排名，使其成为开发过程中模型选择和回归检测的宝贵工具。
-
新型多语言重排模型高效训练，适用于多样化任务
研究人员开发了Querit-Reranker，这是一系列新的多语言交叉编码器重排模型，旨在无需大量标记数据即可高效适应各种排序任务。这些模型使用一种利用合成查询挖掘和教师分数作为软标签的流水线进行训练，并且可以合并检查点以创建单个可部署模型。Querit-Reranker-A0.4B在BEIR和MIRACL等基准测试中表现出显著的改进，而Querit-Reranker-4B在公开可用的模型中取得了最先进的性能。这两个模型都可以在Hug…
-
新的ADORE框架通过迭代反馈改进LLM查询扩展
研究人员推出了一种名为ADORE的迭代框架，旨在增强基于大型语言模型（LLM）的信息检索查询扩展。与可能导致检索漂移的生成驱动方法不同，ADORE使用检索结果作为后续扩展轮次的反馈。此迭代过程包括由LLM生成段落、检索器评估语料库响应以及相关性评估器根据原始查询判断检索到的文档。ADORE在包括TREC Deep Learning、BEIR和BRIGHT在内的多个基准测试中展示了显著的性能提升，优于BM25等传统方法和之前的查询扩展技术。
-
CompRank框架提升LLM重排效率
研究人员开发了CompRank，一个旨在提高大型语言模型（LLM）重排器在信息检索任务中计算效率的新框架。CompRank通过令牌级压缩和无解码评分方法减少冗余计算来实现这一目标。实验表明，CompRank在保持高性能的同时显著加快了重排速度，使得基于LLM的重排能够更有效地处理长候选列表。
-
STORM框架增强了检索的词汇查询扩展
研究人员开发了STORM，一个用于词汇查询扩展的自监督框架，以改进信息检索。该方法使用奖励引导的束搜索来优化令牌生成，使其在检索任务中更有效。STORM提供了一种具有竞争力的、轻量级的替代密集神经网络检索系统的方法，在各种基准和语言上都取得了强劲的性能。
-
新的ECI方法无需训练即可对密集检索的难例负样本进行排名
研究人员开发了一种新的无需训练的方法，称为有效对比信息（ECI），用于评估密集检索系统的难例负样本来源。该技术使用冻结的嵌入来对候选负样本进行排名，绕过了微调和下游评估的需要。ECI在MS MARCO和BEIR等基准测试中表现强劲，能有效地为检索模型识别最佳负样本来源。