PulseAugur
实时 09:16:29

新的RING方法将知识内化到大型语言模型中,无需外部检索器

研究人员推出了一种新范式RING(Retrieval-Internalized Generation),它将外部知识直接注入语言模型的参数中,从而无需单独的检索系统。该方法使用混合记忆专家(Mixture-of-Memory Experts)架构和强化学习来训练模型搜索其内部记忆。创建了一个新的基准测试News-2025,以评估模型整合其训练截止日期之后数据的能力,结果表明RING在准确性和效率方面与传统的检索增强生成方法相当或更优。 AI

影响 通过将知识直接整合到其参数中,这种方法有望实现更高效、事实更准确的大型语言模型,从而可能降低延迟和复杂性。

排序理由 该集群描述了一篇详细介绍语言模型知识注入新方法的最新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的RING方法将知识内化到大型语言模型中,无需外部检索器

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Shicheng Xu, Liang Pang, Liyi Chen, Zihao Wei, Jingcheng Deng, Yan Gao, Yi Wu, Yao Hu, Huawei Shen, Xueqi Cheng ·

    RING: Retrieval-Internalized Generation for Continual Large-Scale Knowledge Injection

    arXiv:2608.01630v1 Announce Type: new Abstract: Retrieval-augmented generation (RAG) improves factuality but adds latency and engineering overhead at serving time. We propose RING (Retrieval-Internalized Generation), a holistic paradigm spanning both architecture and training tha…