Beir
PulseAugur coverage of Beir — every cluster mentioning Beir across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
RAGFlip论文衡量检索器升级中的负面翻转
一项新的研究论文RAGFlip引入了一种评估检索器升级的方法，重点关注查询级负面翻转。当新的检索器未能找到先前检索器（如BM25）成功识别的相关段落时，就会发生这种翻转。研究发现，所有评估的替换检索器（BGE-large、E5-large-v2和SPLADE）都提高了整体覆盖率，但在各种数据集和深度上仍然表现出负面翻转。这些回归尤其在较小的检索深度下更为显著，突显了在检索器评估中，除了聚合指标外，还需要查询级兼容性。
-
新方法优化了基于LLM的检索模型的效率
研究人员开发了一种新方法来优化神经稀疏检索模型的稀疏性，该模型利用大型语言模型（LLM）进行语义术语扩展。该方法结合了可学习软Top-K和逐项阈值等自适应策略，以及FLOPs正则化，以减小文档和查询向量的长度。使用Lion-SP模型在MS MARCO和BEIR数据集上的实验表明，在保持高相关性的同时，检索延迟和存储成本得到了显著改善。
-
新方法提高了视觉文档重排的效率和准确性
研究人员开发了两种新颖的高效视觉文档重排方法：RenderRank 和 RidgeRank。RenderRank 利用从文档图像中提取的压缩视觉标记来学习查询相关的评分，显著减少了输入标记数量，并在多个数据集上优于基于文本的重排器。RidgeRank 通过融合检索器分数和重排器分数并采用浅层线性读出，提高了效率，以一小部分计算成本实现了接近交叉编码器的准确性。这两种方法都旨在提高多模态语言模型在文档检索任务中重排的速度和准确性。
-
新研究将LLM前缀共享重构为排序问题
一篇新论文提出，优化检索增强生成（RAG）系统中检索文本片段的顺序可以显著提高大型语言模型（LLM）的服务效率。研究表明，当前的固定排序约定并非最优，尤其是在检索到多个片段时，并引入了一个结构定理，将最优排序等同于选择请求的层次结构。论文提出了一种精确算法和一种使用凝聚聚类的1/2近似算法，在基准数据集上显示了显著的预填充减少。
-
新的QueryRoute基准测试评估LLM查询改写策略
研究人员推出了QueryRoute，这是一个旨在评估基于LLM的信息检索的查询改写选择策略的新基准测试。该基准测试通过提供一套标准化的产物，解决了为给定查询、领域、检索器和模型选择最佳查询改写所面临的挑战。QueryRoute包含3,757个查询、11个候选系统、五个改写器骨干和跨多个数据集的三个检索器，产生了超过60万次检索结果。对各种选择方法的初步基准测试显示，与固定改写器相比，存在显著的改进潜力，尽管当前方法仅捕捉到这一潜力的很…
-
EviQE方法通过选择相关文档来改进LLM查询扩展
研究人员开发了EviQE，一种用于改进基于大型语言模型（LLM）的查询扩展的新颖方法，该方法侧重于为模型选择要处理的相关文档。这种方法将证据选择与生成阶段分开，将不同的重构器视为互补的检索视角。在TREC DL和BEIR基准测试中的实验表明，EviQE，特别是使用LLM-Score的基于相关性的证据选择，显著优于直接重构和单源扩展方法。研究发现，汇集来自多个重构器的候选者可以增加相关文档的覆盖范围，并且在选择了强条件证据后，后续的检索…
-
MoE模型获得更智能的剪枝、检索和推理效率
研究人员正在探索用于混合专家（MoE）语言模型的先进技术，以提高其效率和性能。一篇论文介绍了HOPE（Higher-Order Pruning of Experts），一种考虑专家协同交互的新型剪枝目标，在稀疏率较高和复杂代理任务上表现优于现有方法。另一项研究表明，MoE模型可以作为强大且高效的信息检索系统，在激活参数较少和编码时间较短的情况下优于密集模型。此外，一个名为DynaExq的系统在推理过程中动态量化专家，以管理单GPU上的…
-
新的俄罗斯套娃哈希表示提高了RAG检索效率
研究人员开发了俄罗斯套娃哈希表示（MHR），这是一种用于检索增强生成（RAG）系统中紧凑语义检索的新颖方法。MHR通过一个将全宽度训练与前缀组织分开的两阶段过程来解决存储大型向量索引的挑战。这使得在各种字节预算下都能进行高效检索，而无需重新编码整个语料库，并在MS MARCO和BEIR等数据集上显示出改进的性能。
-
DoPR 框架通过压缩文档前缀提高 LLM 重排效率
研究人员开发了 DoPR，一个旨在提高大型语言模型 (LLM) 重排效率的新型框架。DoPR 通过将离线文档准备与在线重排分离来解决冗余文档处理的问题。它通过创建可复用、压缩的文档前缀状态来实现这一点，这些状态是预先计算并存储的。在在线重排期间，LLM 只需要处理查询和一个评分令牌，并利用存储的前缀来获取文档信息，从而显著降低了计算成本和延迟。
-
MoganColBERT-TR: 新型土耳其语多向量检索模型发布
研究人员开发了 MoganColBERT-TR，这是一种专为土耳其语设计的新型多向量检索模型。该模型基于先前训练的 ModernBERT 编码器，并通过蒸馏将其适配到 ColBERT 目标。MoganColBERT-TR 在 token 级别表示查询和文档，并利用晚期交互评分机制。在五个土耳其语 BEIR 数据集上的评估表明其表现强劲，优于更大的模型，并取得了具有竞争力的第二名。
-
E2Rank unifies text embedding and reranking for efficient search
研究人员开发了E2Rank，一个新颖的框架，它统一了文本嵌入和列表式重排，以实现更有效和高效的搜索。该方法通过将重排提示视为伪相关反馈查询，将单一文本嵌入模型扩展到执行检索和重排。E2Rank在BEIR基准测试上取得了最先进的结果，在BRIGHT上表现具有竞争力，并且延迟显著低于现有的基于LLM的重排器，同时还提高了MTEB上的嵌入性能。
-
新的 arXiv 论文探讨了密集检索中的隐私、效率和大语言模型集成
四篇新的 arXiv 论文探讨了密集检索的进展，密集检索是大语言模型在信息检索任务中的关键组成部分。第一篇论文介绍了一种使用学习到的深度哈希进行隐私保护的方法，以有效地过滤候选文档，在保持检索质量的同时降低计算成本。另一篇论文提出了 AnchorQE，一种无需训练的方法，通过优化生成的查询扩展与原始查询的集成方式来改进密集检索。第三篇论文 LLM-QL，通过将查询似然最大化作为辅助任务来利用大语言模型，以增强检索器的性能。最后，Ada…
-
新方法使用代理搜索轨迹调整密集检索模型
研究人员开发了导航感知嵌入（NIE），一种利用代理搜索工作流中的轨迹来调整密集检索模型的新方法。该方法利用查询、检索和停止轨迹来微调已部署的模型，而无需新的相关性标签、合成查询或 LLM 判断。通过将停止文档视为正面示例并纳入先前的路径文档，NIE 显著提高了检索性能，在 BEIR HotpotQA 等基准测试中，Recall@20 提高了高达 5.8 个点，nDCG@10 提高了 1.9 个点。
-
新研究揭示了RAG防御系统在抵御协调投毒攻击方面的基本局限性
研究人员展示了当前针对检索增强生成（RAG）中使用的向量检索系统的协调投毒攻击的防御措施存在根本性局限。这些旨在过滤恶意文档的准入时防御措施，可以通过对手注入少量看似无害的文档来规避。这些文档结合起来，可以有效地劫持目标查询，迫使RAG系统输出攻击者捏造的信息。研究表明，这些攻击并非理论上的，在真实世界的管道中成功率高达88%，并且现有的分类器无法区分恶意和合法的利基上传。
-
新的DESA方法通过通道不对称扩展增强了基于LLM的检索
研究人员开发了DESA（密集扩展和稀疏锚定），一种用于改进基于LLM的查询扩展的信息检索的新方法。与融合固定前L个密集和稀疏排名的先前方法不同，DESA通过在完整列表融合下评估检索有效性来分离截止和融合的影响。该方法使用LLM生成互补的参考段落，为密集查询增加了新的语义方向，并将词汇线索纳入稀疏检索，而不会扩大原始查询的词汇支持。在七个BEIR数据集上，DESA在nDCG@10和Recall@20方面取得了改进，同时显著降低了密集和稀…
-
新研究探讨静态剪枝和基于LLM的查询扩展在检索系统中的应用
两篇新研究论文探讨了改进信息检索系统的方法。第一篇论文《稀疏检索机制下的静态剪枝》研究了静态剪枝技术如何在不同检索引擎中应用，发现索引端剪枝能持续降低延迟和索引大小，而查询剪枝常被现代系统内化。第二篇论文《Dense Expands, Sparse Anchors》介绍了DESA，一种通道非对称查询扩展方法，它使用LLM生成互补的段落，提高了检索效果并降低了混合检索系统的访问深度。
-
新模型统一稀疏和密集多模态嵌入，提升搜索效率
研究人员推出 UEmbed，一种新颖的仅解码器多模态嵌入模型，能够在单次因果前向传播中生成稀疏词汇和密集表示。该模型旨在将对现代搜索系统至关重要的稀疏检索与多模态输入统一起来。UEmbed 以 2B、4B 和 9B 的规模发布，其中 9B 版本在 MMEB-v2 和 BEIR 等基准测试中取得了有竞争力的结果，性能优于 RzenEmbed 等现有模型。此外，另一篇独立的研究论文提出了 ReLoop-UME 方法，该方法通过在模型深度上…
-
双曲几何检索系统赋能边缘设备上的RAG
研究人员开发了一种新颖的混合检索系统，该系统利用双曲几何来实现边缘设备上的检索增强生成（RAG）。该系统将词嵌入投影到双曲空间，从而能够高效地索引和查询文档。通过结合BM25词汇评分和洛伦兹内积相似度，该系统在多个基准数据集上取得了具有竞争力的NDCG@10分数。该设计优先考虑实时索引和资源高效查询，使其适合在计算能力有限的设备上部署。
-
新的CE-QE方法通过基于语义证据来增强词汇检索
研究人员开发了一种名为交叉编码器查询扩展（CE-QE）的新方法，以改进信息检索系统。该技术解决了传统词汇检索方法（如BM25）的局限性，这些方法在查询和文档词汇不同时无法找到相关文档。CE-QE通过分析应用于语义检索结果的交叉编码器的相关性分数来识别关键术语，并将它们添加到原始BM25查询中。这种方法避免了伪相关反馈中常见的查询漂移，并且不像其他方法那样依赖于生成文本，而是直接使用检索到的段落中的术语。
-
新的RAG防御框架应对数据投毒攻击 · 已追踪3个来源
研究人员开发了新的防御框架，以保护检索增强生成（RAG）系统免受数据投毒攻击。RAGuard在两篇论文中提出，采用分层方法，包括对抗性检索器微调和一种新颖的零知识推理补丁（ZKIP），该补丁使用反事实解码来检测恶意文档，而无需标签。TriShieldRAG提供了一个三阶段的纵深防御策略，包括摄取卫士、检索评分器和跨LLM共识阶段，以对抗知识损坏。这些方法旨在显著降低或消除投毒攻击的成功率，否则这些攻击可能会操纵RAG系统提供错误的答案。