Arjun Pillai

研究人员发现控制 Transformer 中语言身份的“首个 token 广播器”

研究人员在 Transformer 模型中识别出特定的注意力头，称为“首个 token 广播器”，它们对于维持模型的语言身份至关重要。这些注意力头，在 Qwen2.5-1.5B-Instruct 等指令微调模型中尤为突出，会持续关注提示的初始 token，从而在整个生成过程中传播其语言信号。对 GPT-2 和 Qwen2.5 模型的实验显示，指令微调显著重组了这些语言身份电路，将其影响定位在早期层，而基础模型则表现出更分散的模式。