实体
Verbalizable Representations Form a Global Workspace in Language Models
Verbalizable Representations Form a Global Workspace in Language Models
PulseAugur coverage of Verbalizable Representations Form a Global Workspace in Language Models — every cluster mentioning Verbalizable Representations Form a Global Workspace in Language Models across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Anthropic 论文介绍 Jacobian Lens 以实现 LLM 可解释性
Anthropic 的研究人员推出了一种名为 Jacobian Lens (J-lens) 的新可解释性技术，用于理解模型内部表征。该技术在语言模型中识别出一个“J-space”，它似乎充当了有意识推理和可言喻概念的全局工作空间。操纵 J-space 内的元素可以改变模型的输出，而 J-space 外的元素影响较小，这表明了系统 1 和系统 2 思维之间的区别。
-
Anthropic 在 LLM 中发现“J-space”工作记忆，开发工具读取 · 跟踪 5 个来源
Anthropic 的研究人员在其语言模型中识别出了一个“J-space”，这与人类认知中的全局工作空间类似，它似乎充当了中间推理步骤的静默工作记忆。这个 J-space 占模型活动不到 10%，包含几十个概念，对于多步推理等更高阶的认知至关重要，因为它的删除会严重损害这些能力，但基本流畅性不受影响。该团队开发了一种名为 Jacobian lens (J-lens) 的工具来读取甚至操纵这个 J-space，证明了它在识别模型中潜在的…