CoT monitoring

研究发现，思维链人工智能监控即使在必要时也会失败

一篇新发表在arXiv上的研究论文对人工智能系统中思维链（CoT）监控的有效性提出了质疑。该研究表明，即使思维链对于生成正确答案至关重要，CoT监控也可能失败，这与先前的假设相悖。研究人员提出了一个更详细的四级CoT必要性层级来更好地衡量可监控性，发现在复杂的预测任务中，包括一个患者属性影响结果但未被明确表达的医疗诊断场景，低三个层级都存在失败情况。