PulseAugur
实时 18:54:35
English(EN) A Parametric Memory Head for Continual Generative Retrieval

研究人员提出参数化记忆头以改进生成检索模型

研究人员开发了一种名为后适应记忆调优(PAMT)的新方法,以应对生成信息检索模型中灾难性遗忘的挑战。PAMT引入了一个模块化的参数化记忆头,可以在不改变现有模型核心参数的情况下对其进行增强。该记忆头在解码过程中允许稀疏查询和残差校正,指导文档标识符的生成,同时保留来自先前文档集的知识。实验表明,PAMT在对新文档性能影响极小的情况下,显著提高了对旧信息的保留能力。 AI

影响 引入了一种提高生成检索模型知识保留能力的方法,有望增强其在动态文档环境中的效用。

排序理由 这是一篇介绍生成信息检索新方法的学术论文。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究人员提出参数化记忆头以改进生成检索模型

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Kidist Amde Mekonnen, Yubao Tang, Maarten de Rijke ·

    A Parametric Memory Head for Continual Generative Retrieval

    arXiv:2604.23388v1 Announce Type: cross Abstract: Generative information retrieval (GenIR) consolidates retrieval into a single neural model that decodes document identifiers (docids) directly from queries. While this model-as-index paradigm offers architectural simplicity, it is…