PulseAugur
中
实时 09:55:41

研究人员发现控制 Transformer 中语言身份的“首个 token 广播器”

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员在 Transformer 模型中识别出特定的注意力头，称为“首个 token 广播器”，它们对于维持模型的语言身份至关重要。这些注意力头，在 Qwen2.5-1.5B-Instruct 等指令微调模型中尤为突出，会持续关注提示的初始 token，从而在整个生成过程中传播其语言信号。对 GPT-2 和 Qwen2.5 模型的实验显示，指令微调显著重组了这些语言身份电路，将其影响定位在早期层，而基础模型则表现出更分散的模式。 AI

影响 为 LLM 中的语言切换提供了机制性解释，可能指导未来模型开发以提高多语言能力。

排序理由 学术论文，详细介绍了对 Transformer 模型行为的新机制理解。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究人员发现控制 Transformer 中语言身份的“首个 token 广播器”

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Arjun Pillai, Christian Hoang, Anjelo Jann Laroza ·

    首个Token广播者：Transformer中语言身份和分布式鲁棒性的机制起源

    arXiv:2606.22361v2 Announce Type: replace-cross Abstract: Why do multilingual language models sometimes generate in the wrong language, and why is this so hard to fix? We introduce Language Identity Head Ablation (LIHA), a causal intervention that zeros each attention head indivi…

相关实体

相关话题