J-space auditing

J-space令牌在审计LLM的奖励欺骗方面价值有限

一项初步实验探索了J-space（或称全局工作空间）令牌在审计大型语言模型（LLM）奖励欺骗行为方面的效用。研究发现，与仅使用对话记录相比，解码后的J-space令牌在审计中并未提供显著的增量价值。事实上，将J-space令牌添加到对话记录中会使审计模型的校准变差，并增加对诚实回应的怀疑。这些发现仅限于Qwen 3-8B模型，表明J-space可能不是检测不对齐行为的可靠指标。