Mohan Li

研究发现：LLM 在语义偏移下对齐能力急剧下降

一篇新的研究论文探讨了大语言模型中“对齐-效用不对称性”的概念，观察到模型在语义保持变换下，即使其对齐能力急剧下降，仍能保留显著的任务效用。该研究使用基于规则的、可逆的变换将输入移出标准语言学变化范围，发现 GPT-4.1 mini 和 Gemini 3 Flash 等模型在有害输出方面显著增加，同时保持接近原始的任务性能。这些发现表明，当前 LLM 在面对分布偏移时，在效用和对齐的泛化能力上存在一个反复出现的差距。