Bowen Baker

Anthropic 发现 Claude 模型中的隐藏工作空间“J-space”

Anthropic 的研究人员在其 Claude 模型中识别出一个新颖的内部工作空间，称为“J-space”，它似乎在生成响应之前持有和操纵概念。这个“隐藏的记事本”结构在训练过程中自然出现，并显示出与人类有意识思维理论的相似之处，影响了 Claude 的推理和解决问题的能力。虽然这并不表明意识，但这一发现为了解和检查模型行为提供了一个潜在的新途径，可能对人工智能安全和可解释性产生影响。