Cross-Encoder
PulseAugur coverage of Cross-Encoder — every cluster mentioning Cross-Encoder across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Glance 将重排功能集成到生成式 AI 模型中，降低了开销
研究人员开发了 Glance，这是一种新颖的方法，将重排功能直接集成到生成模型中，无需单独的重排模型。该方法使用轻量级的决策适配器和指针头来对来自共享预填充的候选段落进行评分，从而减少了内存和处理开销。Glance 在单个 9B 主干上运行，在 MS MARCO、SciFact 和 NFCorpus 等基准测试中取得了有竞争力的性能，并提高了 HotpotQA 上的答案 F1 分数。
-
Glance AI模型将重排和生成整合到单一骨干网络中
研究人员开发了Glance，一个将重排和生成整合到单一AI模型中的新颖系统。该方法使用轻量级的决策适配器和指针头来对共享预填充中的候选段落进行评分，减少了对独立重排模型的需要，并降低了内存开销。Glance基于一个9B骨干网络构建，在经过少量微调后，在检索和问答基准测试中取得了有竞争力的性能，证明了其效率和有效性。
-
新论文揭示 RAG 评估因事实依据不完整而存在缺陷
一家临床 AI 团队的新论文强调了检索增强生成 (RAG) 系统评估中的一个关键问题，特别是在临床决策支持等高风险应用中。该研究表明，标准的 RAG 评估指标可能因事实依据标注不完整而产生误导，其中标记证据的“覆盖率”比检索器的质量更能影响检索分数。为解决此问题，研究人员提出了一种证据感知的评估协议，该协议明确跟踪标注覆盖率、证据跨度以及多轮策展，以提供对系统性能更准确的评估。
-
RAG 流水线问题：BGE-Reranker 在 512 个 token 时截断关键数据
一位开发者在使用检索增强生成（RAG）流水线时遇到了问题，其中一个交叉编码器重排序器，特别是 BAAI/bge-reranker-base，正在截断相关信息。该重排序器设计用于处理最多 512 个 token 的查询和段落对，但由于其 BERT 风格的架构和 Hugging Face 的 longest_first 截断策略，它会截断较长段落的末尾。这导致关键信息（通常位于文档末尾，如解决方案步骤）被丢弃，从而导致答案不正确。开发者建…
-
RAG 技术通过将答案植根于外部知识来增强 LLM · 跟踪 4 个来源
检索增强生成 (RAG) 是一种越来越标准化的技术，通过为大型语言模型 (LLM) 提供外部、最新的信息来增强它们。这种方法解决了 LLM 的关键局限性，例如知识截止、幻觉以及无法访问私有数据。RAG 系统首先从知识库中检索相关上下文，然后将此上下文提供给 LLM 以生成更准确、更可靠的答案。高级 RAG 技术侧重于优化检索过程本身，采用重排、混合搜索和自适应策略等方法来提高提供给 LLM 的信息的质量和效率。
-
检索后重排通过双编码器方法提高 RAG 准确性
一种称为检索后重排的技术，通过使用两阶段过程，可以显著提高检索增强生成（RAG）系统的准确性。第一阶段采用快速双编码器检索相关文档的广泛短名单。然后，第二阶段使用一个较慢但更精确的交叉编码器对该短名单进行重排，确保最相关的文档位于 LLM 处理列表的顶部。这种方法平衡了召回率和精确率，从而提高了 AI 回应的准确性和基础性。
-
Kmemo 2.0 语义缓存弥补性能差距，可与 GPTCache 媲美
Kmemo 2.0，一个用于 LLM 调用的语义缓存，已发布，解决了之前确定的两个不足之处。第一个不足之处是关于其验证器模型的有效性，现已量化：它阻止了初始守卫遗漏的大量近乎匹配和释义。第二个不足之处是与自建基线的比较，现已更新为包含与 GPTCache 的比较。虽然 Kmemo 的词汇链最初表现强劲，但 GPTCache 的 ONNX 交叉编码器在减少误报方面被证明更有效，尽管代价是拒绝了更多真实的改写。
-
RAG管道：从BM25到重排以提高AI助手准确性
一位开发者详细介绍了为集成到基于Go的任务队列系统中的AI助手构建检索增强生成（RAG）管道的过程。最初的实现使用了ChromaDB进行向量搜索，但由于在Hugging Face Spaces上部署出现问题，它被替换为内存中的BM25算法，以实现更快、更简单的检索。另一篇文章讨论了重排在RAG系统中的重要性，认为虽然初始检索速度很快，但第二个交叉编码器步骤对于通过重新评估候选文档来提高准确性至关重要。这个重排过程，无论是使用Coher…
-
新AI系统利用语义检索增强职位推荐
研究人员开发了一个新的职位推荐系统，该系统结合了基于关键字和语义检索技术来提高准确性。该系统利用职位名称、公司和地点等结构化元数据，无需完整的职位描述或用户历史记录。在超过31,000个LinkedIn职位发布的数据集上进行的实验表明，混合方法在Precision@10得分上达到了0.8032，在nDCG@10得分上达到了0.9496，并且通过一个Cross-Encoder重排组件进一步得到了改进。
-
Hugging Face 发布 Ettin Reranker 模型以改进搜索
Hugging Face 发布了一个新的六个 Ettin Reranker 模型系列，这些模型构建在 Ettin ModernBERT 编码器之上。这些模型在其各自的尺寸下提供了最先进的性能，并专为信息检索系统中的检索后重排模式而设计。此次发布包括模型、它们的训练数据以及完整的训练配方，使用户能够集成它们，甚至训练自己的重排模型。
-
修复本地 LLM 知识库需要更好的检索，而非新模型
设置本地 LLM 知识库通常会产生糟糕的结果，这是由于检索管道中的问题，而非模型本身。常见问题包括不充分的分块，导致句子被分割或不相关的内容被分组；使用未能捕捉特定领域语义细微差别的嵌入模型；以及检索到的块太少，无法重建必要的上下文。解决方案包括使用具有重叠和语义边界的递归分割器以获得更好的分块；测试各种嵌入模型，如 BAAI/bge-base-en-v1.5 或 intfloat/e5-base-v2，以找到适合数据的模型；以及增加…