Dense Passage Retrieval for Open-Domain Question Answering
PulseAugur coverage of Dense Passage Retrieval for Open-Domain Question Answering — every cluster mentioning Dense Passage Retrieval for Open-Domain Question Answering across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
对密集检索的分块策略的有效性和成本进行了评估
一篇新论文评估了用于密集检索系统的八种不同的分块策略，不仅考虑了检索的有效性，还考虑了索引吞吐量、查询延迟和内存使用量等运营成本。研究发现，计算成本高昂的分块方法并不总是优于更简单的方法。最佳策略取决于嵌入模型、数据集、语料库大小以及正在优化的特定检索指标等因素。
-
BM25、密集检索和 SPLADE：选择 RAG 检索方法
一篇技术文章比较了检索增强生成（RAG）项目的三种主要检索方法：BM25、密集检索和 SPLADE。BM25 是一种基于 CPU 的快速关键词匹配算法，而密集检索使用嵌入模型来捕捉语义含义，但需要更多资源。SPLADE 提供了一个折衷方案，使用稀疏向量和基于 Transformer 的查询扩展来有效处理同义词。作者建议从 BM25 作为基线开始，在存在语义差距时采用密集检索，并在采用完全混合方法之前考虑 SPLADE。
-
新的SentAttack方法针对AI系统中的密集检索模型
研究人员开发了SentAttack，这是一种新颖的句子级黑盒对抗攻击方法，专门用于检索增强生成（RAG）系统中的密集检索（DR）模型。该方法通过生成低排名、不相关的文档来误导DR模型，克服了现有单词级攻击的局限性。SentAttack分两个阶段进行：首先，使用来自黑盒RAG系统的数据训练一个代理DR模型；其次，利用该代理模型通过将句子级聚类与目标查询连接起来来创建对抗性文档。
-
新的NNN解码方法超越密集检索，增强信息检索能力
研究人员推出了一种新颖的信息检索方法——非负弹性网络（NNN）解码，超越了传统的密集检索方法的内积评分。该新技术将检索视为一个联合解码问题，选择其嵌入能够稀疏重建查询嵌入的文档。理论分析表明，NNN解码可以处理密集检索所能处理的所有查询，并额外处理具有相关文档的查询，从而提供更高的多样性和更低的冗余度。实验结果在基准测试中显示了持续的性能提升，而端到端训练过程进一步增强了这些改进。
-
中文解析器DeepDoc、MinerU在日本RAG表现上出现交叉
对两个中文开源文档解析器DeepDoc和MinerU在日本RAG系统中的比较分析显示，基于所使用的检索方法，它们的性能出现了交叉。DeepDoc在使用BM25检索时表现出更优异的结果，而MinerU在使用密集检索时表现出色。这表明最佳解析器的选择取决于具体的检索策略，而不是某一个解析器普遍更好。
-
结构化解析提升LLM RAG中的密集检索性能
一项比较检索增强生成（RAG）文档解析策略的研究发现，结构化解析对密集检索的益处远超传统的BM25方法。在使用密集检索时，像DeepDoc这样能理解文档布局的解析器，命中率提升了25%，而BM25仅提升了12.5%。这表明结构化解析器创建的块的语义连贯性对于基于嵌入的检索系统至关重要。