研究人员开发了KGCache，一种新颖的内存缓存系统，旨在提高大型语言模型（LLM）在知识图谱推理时的效率。KGCache存储频繁访问的单跳知识图谱邻域，减少不同问题之间的冗余查询。该系统兼容迭代遍历和单次规划的KGQA范式。在WebQSP和CWQ数据集上的评估显示，实体重用显著，实体缓存将KG检索速度提高了1.91倍，语义上下文缓存实现了高达1.06倍的整体系统加速。 AI
影响 该系统可以显著加速依赖知识图谱基础的大型语言模型应用，使其更高效、响应更快。
排序理由 这是一篇研究论文，详细介绍了一个用于提高大型语言模型与知识图谱性能的新系统。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
