circuit hypothesis

AI 研究通过电路假说解码 Transformer 内部结构

机制可解释性研究正在揭示 Transformer 如何处理信息，重点关注归纳头（induction heads）和叠加（superposition）等概念。这些发现支持“电路假说”（circuit hypothesis），表明 Transformer 内部特定的神经通路负责特定的计算。这项工作旨在揭开这些复杂 AI 模型内部运作的神秘面纱。