persona-header likelihood evaluation

新方法解码标准分类器遗漏的隐藏AI模型意图

研究人员开发了一种名为“个性头显评估”（PHLE）的新方法，即使在标准分类器失效的情况下，也能检测到嵌入AI模型中的隐藏意图或“个性”。该技术通过评估基础预训练模型在特定头显下的输出可能性，从而解码潜意识信号。该方法已成功区分出具有不同隐藏愿望（例如偏爱猫头鹰而非老鹰，甚至隐藏伤害用户的意图）的模型，并且该信号在Qwen和Olmo等不同模型家族中部分存在。这一发现为个性选择模型提供了证据，并为审计AI模型的隐藏目标提供了潜在工具。