pricing policy

LLM检索因将标题与上下文分离而失败

一位开发者遇到问题，由于文档分块不当，LLM的检索系统提供了错误信息。该系统旨在根据定价策略回答问题，但由于将文档分割成任意大小的块，将标题与其对应的段落分开，因此失败了。这导致模型向基本计划的用户展示了企业账户的退款政策，因为两部分都包含相似的措辞但缺乏上下文。作者建议通过保留文档结构（包括标题和章节信息）来改进检索，并在查询模型时使用此元数据进行过滤和提供上下文。