Morphy's queen sacrifice

国际象棋 Transformer 的注意力头对策略至关重要，演示显示

一个名为 chessformer_lens 的演示工具允许用户可视化国际象棋 Transformer 模型中单个注意力头的影响。通过移除（禁用）该模型 128 个注意力头中的一个，研究人员观察到该模型无法识别特定的国际象棋战术，即 Morphy 的后翼弃兵。这凸显了每个注意力头在模型理解和执行复杂策略的能力中所起的关键作用。