研究人员开发了一个名为 CIE-Scorer 的新框架，用于检测大型语言模型（LLM）的思维链（CoT）推理何时不能准确反映其内部决策过程。该方法结合了外部信号（如答案一致性）和通过追踪模型电路得出的内部计算证据。通过有效地构建句子级电路并比较内部和外部推理图，CIE-Scorer 能够识别差异，在 CoT 不忠实检测方面取得了最先进的性能，同时降低了计算成本。 AI
影响 这项研究为确保 LLM 推理的可靠性提供了一种更具成本效益的方法，这对于需要可信赖输出的应用至关重要。
排序理由 该集群包含一篇学术论文，详细介绍了一种检测 LLM 推理不忠实的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →