研究人员调查了多模态指令调优如何影响Transformer语言模型中指定身份提示的几何编码。他们分析了包括Gemma 4 E4B和Qwen2.5-7B-Instruct在内的四种模型，在不同的训练后模式下。研究发现，多模态指令调优导致身份编码方式发生转变，从基础模型中的基于方向的表示转移到调优模型中的基于幅度的表示。这种重组是多模态指令调优特有的，在通过RL蒸馏或标准监督微调训练的模型中未观察到。 AI
影响 这项研究深入探讨了多模态训练如何影响LLM的内部表示，可能为未来的模型开发和对齐策略提供指导。
排序理由 学术论文，详细介绍了关于LLM内部表示的新发现。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
