Anthropic 的研究人员在其语言模型（包括 Claude Sonnet 4.5）中识别出一个区域，该区域的功能类似于人脑中的“全局工作空间”。这个专门区域似乎能够容纳和处理模型正在积极考虑并可能表达的概念。这项发现是利用一种名为 Jacobian Lens (J-Lens) 的新可解释性工具实现的，该工具可以分析模型的内部表征。 AI
影响 这项研究可能从根本上改变我们理解和与 AI 互动的方式，有望带来更透明、更可控的模型。
排序理由 该集群描述了一篇研究论文，其中详细介绍了一种新的可解释性方法以及关于模型内部表征的发现。[lever_c_demoted from research: ic=1 ai=1.0]
- Anthropic
- Claude
- Claude Sonnet 4.5
- Jacobian Lens
- J-Lens
- Transformer Circuits Thread
- Verbalizable Representations Form a Global Workspace in Language Models
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
