Yan

LLM账单助手在数字叙述上遇到困难，而非检索

为一家互联网服务提供商开发了一个WhatsApp助手来回答账单问题，但遇到的问题并非检索准确性，而是语言模型错误地陈述了正确的数字数据。该系统采用混合检索方法，结合了pgvector进行语义搜索和PostgreSQL的全文搜索来查找特定标识符，并使用Reciprocal Rank Fusion进行融合。为了解决模型幻觉或错误陈述数字的倾向，实施了接地验证器和人性化步骤，在将响应发送给用户之前捕获并纠正错误。