Cognitive deference

论文警告思维链AI推理会促进拟人化和顺从

一篇新论文认为，生成式AI模型中使用的“思维链”（Chain-of-Thought, CoT）方法可能导致用户拟人化这些系统，认为它们具有真正的理解能力和认识论上的优越性。这种认知属性的错误归因可能导致认知顺从，即用户过度信任AI的输出，并可能将狭窄的任务表现泛化到更广泛的能力上。该论文以医学为例，说明了CoT的感知透明度可能带来的问题，损害了伦理原则，并建议AI素养培训应警惕其用于生成面向用户的理由。