PulseAugur
中
实时 18:39:55
English(EN) Anthropic says it can read Claude's 'thoughts,' as detailed in new research paper — models observed to have a global workspace, revealing more of what makes LLMs tick

Anthropic 通过新的 J-Space 研究观察到 Claude AI 的“想法”

作者 PulseAugur 编辑部 · [1 个来源] ·

Anthropic 开发了一种名为 Jacobian Lens (J-Lens) 的技术，用于观察其 Claude AI 模型内部的推理空间，他们称之为“J-Space”。这个空间似乎与人类意识中的全局工作空间功能相似，在生成输出之前处理信息和概念。J-Space 使研究人员能够看到模型最终响应中并非总是反映出来的内部计算，从而为理解大型语言模型的推理提供了新的见解，并可能有助于模型改进。 AI

影响 提供了一种理解大型语言模型内部推理的新颖方法，可能带来更好的模型开发和调试。

排序理由 详细介绍一种观察大型语言模型内部过程新技术的 isto 研究论文。 [lever_c_demoted from research: ic=1 ai=1.0]

在 Tom's Hardware 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Anthropic 通过新的 J-Space 研究观察到 Claude AI 的“想法”

报道来源 [1]

  1. Tom's Hardware TIER_1 English(EN) · Jon Martindale ·

    Anthropic says it can read Claude's 'thoughts,' as detailed in new research paper — models observed to have a global workspace, revealing more of what makes LLMs tick

    Anthropic has discovered an internal "J-space" for its Claude AI that displays similarities to human internal processing. While the AI developer anthropomorphizes it as thought, it may yet prove useful as a method of improving LLM honesty, oversight, and guardrails.

相关实体

相关话题