Ask-your-Docs

RAG聊天机器人应使用证据门控来防止幻觉

一种新的检索增强生成（RAG）聊天机器人构建方法，特别适用于分类审核报告等任务，建议优先考虑证据门控，而不是简单地增加上下文窗口大小或仅依赖嵌入。该方法包括一个两阶段过程：首先，检索相关的策略段落；其次，根据证据的质量和范围来门控生成。如果发现证据不足或冲突，系统应避免回答，并将此类情况通过明确的原因路由给人工审核。这确保了答案有充分的依据并且引文可验证，解决了范围冲突或模糊证据等可能导致错误分类的问题。