Anthropic 的研究人员在其 Claude AI 模型中发现了一个内部“J-Space”，他们将其比作类似于人类意识的“全局工作空间”。这个空间允许 AI 在生成输出之前在内部处理和操纵概念，这个过程并不总是体现在最终的响应中。这项使用 Anthropic 的“J-Lens”技术发现的成果，为理解大型语言模型（LLM）的推理提供了新的见解，并可能有助于改进模型的行为和理解。 AI
影响 提供了理解和潜在改进 LLM 推理过程的新方法。
排序理由 详细介绍了一种观察 LLM 内部处理过程的新技术的 ist.
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
Anthropic has discovered an internal "J-space" for its Claude AI that displays similarities to human internal processing. While the AI developer anthropomorphizes it as thought, it may yet prove useful as a method of improving LLM honesty, oversight, and guardrails.
Anthropic says it can read Claude's 'thoughts,' as detailed in new research paper — models observed to ha… Anthropic has discovered an internal "J-space" for its Claude AI that displays similarities to human internal processing. While the AI developer anthropomorphizes it as thou…