Xinshun Feng

新框架SCHEMA评估科学智能体幻觉

研究人员开发了SCHEMA，一个新颖的评估框架，旨在评估科学大型语言模型（LLM）智能体的幻觉。与将事实孤立处理的现有方法不同，SCHEMA从证据和文献中构建概念图，以理解科学知识的相互关联性。这种拓扑感知方法能够评估多步推理，并识别错误如何在复杂的知识结构中传播。SCHEMA的诊断显示，幻觉通常聚集在高连接的知识中心周围，并且模型可以通过有缺陷的推理得出正确的最终答案，这突显了仅靠最终准确性对于高风险科学应用来说是不够的。