Coalent

RAG缓存：按来源而非时钟失效

检索增强生成（RAG）系统的缓存策略在性能和数据新鲜度之间存在权衡。使用生存时间（TTL）的传统方法不足，因为它们无法将缓存的答案与特定源文档关联起来，导致在源更新时信息过时。一种更有效的方法是根据数据来源使缓存条目失效，这意味着只有源文档发生更改而派生的缓存项才会被标记为重新计算。这种方法确保更新是精确的，仅影响相关的缓存内容，并避免在源文档未更改时进行不必要的重新处理。