Causal-Audit

新框架增强了LLM生成推理图的可审计性

两篇新的研究论文介绍了一个用于提高大型语言模型（LLM）生成的推理图的可审计性和可靠性的框架。第一个框架PEARL，通过使用闭合的皮尔士模式和裁判反馈来纠正语法、边标签和根方向，专注于将嘈杂的LLM输出修复为可审计的推理图。第二个框架Causal-Audit，提出了一种用于问答的显式、基于图的因果推理框架，该框架构建目标感知的因果链并聚合来自多条路径的证据，以确保可解释性和鲁棒性。这两种方法都旨在为AI科学家工作流程提供可检查的推理痕迹。