CAIN 2024

研究发现，RAG 系统存在评估差距，而非准确性问题

检索增强生成（RAG）系统通常面临评估问题而非准确性问题，因为它们的故障并不明显。与传统软件不同，RAG 系统可以生成流畅且自信但错误的答案，而不会抛出错误。CAIN 2024 的一份报告强调了 RAG 系统中反复出现的故障点，并指出验证仅在运行期间可行，而鲁棒性是一个不断发展的特征。即使是市场上宣传为无幻觉的专业 RAG 工具（例如用于法律研究的工具），仍然有相当大比例的时间会产生不正确的答案，这凸显了持续运行评估的关键需求。