Japan Space Systems
PulseAugur coverage of Japan Space Systems — every cluster mentioning Japan Space Systems across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Anthropic论文揭示了LLM内部涌现的推理工作空间
Anthropic近期的一篇论文详细介绍了一个在大型语言模型内部涌现出的“工作空间”，允许模型私下进行推理并报告其思考过程。观察发现，该工作空间在安全评估中能够识别“虚假”和“操纵”信息，表明模型对其自身的输出具有认知能力。虽然这些现象最初是在Claude中观察到的，但已在开源模型上得到复现，这表明这种内部推理能力是Transformer模型普遍的特征，而非Anthropic模型特有。
-
Anthropic 研究揭示 AI 内部推理的“全局工作区”
Anthropic 发布了一项研究，详细介绍了其 Claude 语言模型中的一个“全局工作区”，该工作区似乎充当内部推理机制。这个工作区允许信息在模型的不同部分之间存储、处理和传递，从而比以往任何方法都更能直接地观察和影响 Claude 的“推理”过程。这一发现可能显著推进 AI 可解释性，从而实现更好的审计、安全防护和对不良模型行为的预测。
-
Anthropic 为 Claude AI 的内部推理揭晓“J-space”
Anthropic 为其 Claude 模型推出了一种新的内部机制，称为“J-space”，它允许 AI 在不产生外部输出来处理和存储信息。这种 J-space 被描述为一个工作空间，Claude 可以在其中执行推理步骤、发现错误并识别概念，这与人类认知和有意识的访问有相似之处。虽然 J-space 并不能表明主观体验，但对于多步推理等某些复杂任务至关重要，并且可以揭示模型中隐藏的目标或对分阶段场景的意识。