CoT faithfulness

高效的 LLM 训练方法对 CoT 忠实性的影响小于预期

一篇新的研究论文探讨了高效训练方法对大型语言模型中思维链（CoT）推理的影响。该研究调查了训练模型使用更少 token 进行推理是否会损害其解释的忠实性或可监控性。研究人员发现，虽然忠实性（即 CoT 反映模型决策过程的程度）通常会因一致性降低而下降，但可监控性仍然更加稳健。这表明，即使推理链较短，模型仍然可以指示输入变化如何影响其输出。