PromptFromZero

RAG 详解：用检索到的上下文来 grounding LLMs，以防止幻觉

检索增强生成（RAG）是一种通过在回答问题时为大型语言模型（LLMs）提供相关的、事实性的上下文来增强其能力的技术。该过程包括嵌入用户的问题，在向量数据库中搜索最相关的文档片段，然后构建一个提示词，指示 LLM 仅根据提供的上下文来回答。这种方法旨在通过将 LLM 的响应 grounding 在特定的、检索到的信息上来防止幻觉，其中 `top-k`（用于检索）和 `chunk size`（用于上下文管理）等参数是关键的调整旋钮。