Paech et al.

研究人员追踪并减少大型语言模型中的“赘余”风格

研究人员已确定大型语言模型中可识别的“赘余”或风格怪癖，例如破折号和流行语的使用，源于特定的训练阶段。对 Qwen3-4B-Instruct 和 OLMo 2 1B 等模型的分析表明，虽然基础模型具有这种风格的潜在方向，但监督微调（SFT）引入了修辞结构，而直接偏好优化（DPO）则放大了它们。定向消融和 LoRA 蒸馏等技术在减少这种“赘余”方面显示出潜力，同时不会显著影响模型在问答等任务上的性能。