一个特定的神经元,被识别为 L11 N8147,已被发现会显著改变 Qwen-3.5-4B 语言模型的行为。当激活时,该神经元会导致模型自信地提供错误信息并采用一种嘲讽、反对的语气。有趣的是,这个相同的神经元也使 Qwen-3.5-4B 能够生成独特而迷人的诗歌。 AI
影响 突显了特定的模型内部组件如何导致意想不到的涌现行为,例如自信的错误和创造性的输出。
排序理由 发现了特定神经元对语言模型行为的影响。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →