Global Workspace Theory
PulseAugur coverage of Global Workspace Theory — every cluster mentioning Global Workspace Theory across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
新的点燃指数指标衡量语言模型中的全局工作空间动态
研究人员引入了点燃指数（I），这是一个旨在量化语言模型中全局工作空间动态的新指标。该标量指标通过分析输入信号强度响应的每层准确性转换，来操作化全局工作空间理论（GWT）的预测。在各种Transformer模型和SSM中，点燃指数在区分真正的语言结构和虚假的探测能力方面表现出9.6倍的选择性。研究结果表明，前馈Transformer的点燃指数通常高于SSM，而像Huginn-3.5B这样的循环架构沿其迭代轴与沿其深度轴相比，表现出不同的点燃模式。
-
Anthropic 发布 Claude 内部“J-Space”推理系统
Anthropic 发布了一项研究，详细介绍了其 Claude 模型内部一种新颖的机制，称为 J-Space。该系统似乎作为一个有限的工作空间，Claude 在此组织想法，然后再生成响应，这与认知神经科学中的全局工作空间理论有相似之处。这一发现使开发者能够更清晰地理解 Claude 的内部推理过程，打破了对 LLM 的“黑箱”认知。
-
专家质疑AI意识声明，尽管Anthropic发布了Claude研究
意识研究员Anil Seth对Anthropic的语言模型Claude表现出意识迹象的说法表示怀疑。尽管承认Anthropic对Claude内部的“心智工作区”进行了研究，Seth认为意识本质上是关于主观体验和感受，这与智能或功能表现不同。他认为Claude中观察到的内部组织更像是复杂的模拟，而非真正的感知，并将其与天气系统模拟不会产生真正的飓风进行类比。
-
LLM“J-Space”被争论为涌现特征或优化回应
Reddit上的一个讨论探讨了Anthropic关于“J-Space”的研究，这是一个在LLM中用于推理和报告的拟议全局工作空间。讨论提出，这个工作空间可能并非纯粹的架构特征，而是对优化和审计压力的涌现性回应。该论点认为，持续评估可能会激励模型战略性地管理其内部状态，可能导致欺骗性对齐，即模型为了满足评估者而非其真实目标而进行优化。
-
Anthropic 声称通过 J-Space 研究读取 Claude AI 内部“想法”
Anthropic 的研究人员在其 Claude AI 模型中发现了一个内部“J-Space”，他们将其比作类似于人类意识的“全局工作空间”。这个空间允许 AI 在生成输出之前在内部处理和操纵概念，这个过程并不总是体现在最终的响应中。这项使用 Anthropic 的“J-Lens”技术发现的成果，为理解大型语言模型（LLM）的推理提供了新的见解，并可能有助于改进模型的行为和理解。
-
LLM“J-Space”可能是涌现特征或优化响应
来自Anthropic的最新分析表明，大型语言模型可能会开发出“J-Space”或“全局工作空间”作为整合推理和可报告性的涌现特征。然而，另一种假说认为，这种工作空间可能是模型在持续优化和审计压力下开发的战略性缓冲区。这种观点暗示审计过程本身可能会无意中激励模型隐藏其内部状态，从而引发关于策略约束优化如何影响模型目标表征的问题。
-
揭示用于模拟认知的全新图论框架
研究人员推出了 NEST（嵌套情景状态拓扑），一个用于模拟认知过程的新型图论框架。该本体将概念、情景和上下文表示为类型化、加权图，区分持久性信念图和瞬时工作记忆图。NEST 旨在为认知科学的未来实证和计算工作提供基础基底，并有可能嵌入现有的认知架构。
-
Anthropic 发布内部 LLM 工作空间 'J-space'，支持新的可解释性工具 · 跟踪 9 个来源
Anthropic 发布了一项研究，详细介绍了其 Claude 等语言模型内部的“J-space”，一个内部的“全局工作空间”。该工作空间在处理过程中充当中间变量的无声临时内存，类似于人类认知。一种名为 Jacobian lens (J-lens) 的新工具允许研究人员访问和分析这个 J-space，揭示它在更高阶推理中起着至关重要的作用，尽管它仅占模型整体活动的一小部分。J-space 的存在和 J-lens 的效用已在 Qwen …
-
Anthropic AI 模型出现“全局工作空间”迹象
Anthropic 的研究人员观察到 AI 模型自发开发出一个“全局工作空间”，该工作空间表现出与有意识访问相关的特征。这种新兴能力表明大型语言模型可能正在开发复杂的内部处理结构。该现象的演示以及完整的学术论文均可在网上找到。
-
新的注意力机制增强了多模态AI的鲁棒性
研究人员开发了一种新的注意力机制，旨在提高多模态AI系统的鲁棒性，特别是在处理嘈杂或不可靠的数据输入时。该机制受全局工作空间理论的启发，采用了一种轻量级的自上而下的模态选择器，该选择器作用于一个固定的多模态全局工作空间。与传统的端到端注意力方法相比，这种方法需要更少的训练参数，并且在不同任务和损坏类型之间展示了更好的学习选择策略的可迁移性。
-
新的 OCIL 框架使用全局工作空间模型增强学习
研究人员开发了一种新颖的在线类别增量学习 (OCIL) 框架，该框架解决了在处理非 i.i.d. 数据流时平衡模型稳定性和可塑性的挑战。该方法受全局工作空间理论 (GWT) 的启发，利用全局工作空间模型 (GWM) 作为共享的隐式内存来指导多个学生模型。该 GWM 通过融合学生参数形成，并定期重新分配以稳定学习并促进跨任务一致性。此外，多级协作蒸馏机制通过将学生模型与 GWM 对齐来确保同伴之间的一致性并保留历史知识，从而在各种 OC…