PulseAugur
中
实时 09:00:23

REIGN模型提供高效长文档检索，训练成本降低 · 跟踪2个来源

作者 PulseAugur 编辑部 · [2 个来源] ·

研究人员推出了一种新颖的双编码器REIGN（Refurbished Embeddings with Integrated Guidance Networks），用于高效的密集长文档检索。与传统的二次方扩展的token级编码器不同，REIGN处理来自冻结的Guidance Network的上下文块嵌入，将训练成本显著降低了约四个数量级。这种方法将token处理与文档级推理解耦，并允许缓存，使其在文档到文档的检索任务中更有效。在Wikipedia、LoCo套件和专利检索等各种基准测试中，REIGN的表现均优于大型模型。 AI

影响 这项研究可能显著提高处理和检索非常长文档信息的效率和成本效益，对法律科技、科学研究和知识管理等领域产生影响。

排序理由 该集群包含一篇研究论文，详细介绍了用于密集检索中高效上下文长度扩展的新模型和方法。

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

REIGN模型提供高效长文档检索，训练成本降低 · 跟踪2个来源

本文如何被排名

Signal score
2 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Research
该集群包含一篇研究论文，详细介绍了用于密集检索中高效上下文长度扩展的新模型和方法。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
paper, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
1 days old
Coverage has settled into its steady-state source set.

完整方法见我们的编辑标准。

报道来源 [2]

  1. arXiv cs.AI TIER_1 English(EN) · Devrim \c{C}avu\c{s}o\u{g}lu, Emre Akba\c{s} ·

    REIGN：集成引导网络的翻新嵌入，用于高效的上下文长度扩展

    arXiv:2608.29899v1 Announce Type: cross Abstract: Dense retrieval over long documents is expensive. Token-level encoders scale quadratically in sequence length, and most long-context embedding models reach 32K tokens only through architectural workarounds or by stretching billion…

  2. arXiv cs.IR (Information Retrieval) TIER_1 English(EN) · Emre Akbaş ·

    REIGN：集成引导网络的翻新嵌入，用于高效的上下文长度扩展

    Dense retrieval over long documents is expensive. Token-level encoders scale quadratically in sequence length, and most long-context embedding models reach 32K tokens only through architectural workarounds or by stretching billion-parameter LLMs. We propose REIGN (Refurbished Emb…

相关实体

相关话题