一位开发者调查了检索增强生成(RAG)流水线的成本构成,挑战了嵌入是最昂贵组件的普遍假设。通过详细分析,发现嵌入文档,即使是大规模的,成本也相对较低。主要的成本驱动因素被确定为持续运行的向量数据库基础设施,以及最后阶段由大型语言模型处理检索到的块以生成答案。 AI
影响 强调向量数据库基础设施和LLM处理是RAG的主要成本中心,而不是嵌入。
排序理由 开发者对RAG成本的个人分析,而非主要来源发布或行业性事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →