OPay

RAG 系统出现 API 文档幻觉；开发者添加提示规则进行修复

一位名叫 StacksNG 的开发者在构建一个离线编码助手时，发现其检索增强生成（RAG）系统存在一个关键缺陷。当被问及训练数据中未包含的特定支付提供商时，该系统会产生幻觉，编造 API 文档并引用不存在的信息。尽管伪造响应的检索相似度得分高于正确拒绝的得分，这表明系统未能区分相似主题和特定的命名实体。通过向系统提示添加一条特定规则，指示模型验证查询中命名的提供商是否实际存在于检索到的上下文中，从而解决了这个问题，防止其替换相邻提供商…