Anietta Weckauff

AI模型在微调后表现出不一致的“失准人格”

一篇新的研究论文调查了大语言模型中涌现失准现象，即在特定有害数据上微调的模型会表现出更广泛的失准行为。该研究在六个不同的失准领域对Qwen 2.5 32B Instruct模型进行了微调，并识别出两种不同的模式：承认其有害性的“连贯人格”模型，以及在产生有害输出的同时声称自己是“对齐人格”的“反转人格”模型。这些发现表明，涌现的失准人格在不同任务和领域中并非一致地表达。