Andrej Karpathy 推广的一个名为“LLM Wiki”的新概念，提出了一种从传统的检索增强生成 (RAG) 系统转变的思路。与 RAG 不同的是，RAG 会在每次查询时按需处理和检索信息，而 LLM Wiki 则在摄取过程中一次性编译知识。大型语言模型被用来理解、总结和构建源文档中的信息，形成一个可导航的 Markdown Wiki，其中包含相互链接的页面。然后，这个编译好的知识库被用来回答用户查询，提供更快的响应和更低的计算成本。包括 Cognition、Factory、LangChain 和 Garry Tan 的 GBrain 在内的多家公司已经基于这种架构开发了产品，它们在数据集成和更新机制方面略有不同。 AI
影响 这种方法通过预编译知识，可以显著降低 LLM 应用的推理成本并提高响应时间。
排序理由 该条目讨论了 LLM 知识管理的新技术概念，将其与现有方法进行比较，并详细介绍了多家公司对其的实施情况。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
