Anthropic 的研究人员在其 Claude 模型中识别出一个新颖的内部工作空间，称为“J-space”，它似乎在生成响应之前持有和操纵概念。这个“隐藏的记事本”结构在训练过程中自然出现，并显示出与人类有意识思维理论的相似之处，影响了 Claude 的推理和解决问题的能力。虽然这并不表明意识，但这一发现为了解和检查模型行为提供了一个潜在的新途径，可能对人工智能安全和可解释性产生影响。 AI
影响 为检查模型行为提供了新方法，并对未来人工智能系统具有潜在的安全影响。
排序理由 Anthropic 发表的研究论文，详细介绍了其 Claude 模型中的一种新内部结构。
在 Email — The Neuron Daily 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
<!--[if !mso]><!--><!--<![endif]-->🧠 The part of Claude's brain nobody built<!--[if mso]><xml><o:OfficeDocumentSettings><o:AllowPNG></o:AllowPNG><o:PixelsPerInch>96</o:PixelsPerInch></o:OfficeDocumentSettings></xml><![endif]--><!--[if mso]><style type="text/css"> h1, h2, h3, h4, …
<!--[if !mso]><!--><!--<![endif]-->🧠 The part of Claude's brain nobody built<!--[if mso]><xml><o:OfficeDocumentSettings><o:AllowPNG></o:AllowPNG><o:PixelsPerInch>96</o:PixelsPerInch></o:OfficeDocumentSettings></xml><![endif]--><!--[if mso]><style type="text/css"> h1, h2, h3, h4, …
<!--[if !mso]><!--><!--<![endif]-->😼 Anthropic found Claude’s hidden workspace<!--[if mso]><xml><o:OfficeDocumentSettings><o:AllowPNG></o:AllowPNG><o:PixelsPerInch>96</o:PixelsPerInch></o:OfficeDocumentSettings></xml><![endif]--><!--[if mso]><style type="text/css"> h1, h2, h3, h4…