TranslationError

SymDiag 框架通过神经符号验证诊断大语言模型推理失败

研究人员推出 SymDiag，一个新颖的神经符号框架，旨在诊断大语言模型（LLM）推理中的失败。与关注结果或主观批评的现有验证方法不同，SymDiag 将大语言模型的思维链（chains-of-thought）转化为符号约束，以查明具体的推理错误。该框架还包含一个自我审计器（Self-Auditor），用于区分真实的推理缺陷和翻译过程中引入的错误，从而提供可验证的失败证据。