Hollinger box

新的 RAG 测试检查冲突数据和来源引用准确性

一种新的五分钟手动测试被提出，用于评估检索增强生成（RAG）助手的可靠性，特别侧重于它们处理冲突信息和准确引用来源的能力。该测试涉及创建两份日期相互矛盾的文档，然后查询 RAG 系统，看它是否能正确识别当前文档并就缺失信息提供诚实的回答。这种方法旨在捕捉标准准确性指标可能遗漏的细微生成端故障，确保 RAG 系统在实际应用中不会自信地呈现不正确的信息。