Embedding model drift

嵌入模型漂移悄无声息地降低 RAG 性能

嵌入模型漂移是生产环境中 RAG 系统中一个微妙但重要的问题，当用于生成向量嵌入的模型与用于查询的模型不同时就会发生。这种不匹配通常由模型更新、弃用或提供商变更引起，会导致检索准确性悄无声息地下降，而不会触发系统警报。检测这种漂移需要采取主动措施，例如维护一个具有已知检索预期的金丝雀语料库，并在部署时比较嵌入，因为向量数据库通常将嵌入视为不透明数据，并且缺乏内置的模型来源检查。