Databricks Mosaic AI

RAG 系统通过集成外部数据检索来增强 LLM

检索增强生成（RAG）系统是通过允许大型语言模型（LLM）访问和利用外部、最新的信息来增强 LLM 的关键技术。RAG 通过在生成响应之前检索相关数据来解决 LLM 的知识截止日期和上下文窗口限制等局限性。这种方法与微调不同，微调会修改模型的行为而不是其知识库。构建 RAG 系统涉及两个主要管道：用于准备和存储数据的摄取管道，以及为每个用户查询获取上下文的检索管道。