Anthropic 发现其 Claude 模型会创建一个内部工作空间，在表达之前在此空间中开发概念。谷歌 DeepMind 在另一个模型上观察并验证了这一隐藏的推理过程。现已开发出一个新工具来读取此内部工作空间，有可能在模型生成输出之前识别风险。 AI
影响 理解模型的内部推理可能有助于更好地对齐 AI 系统并检测风险。
排序理由 关于模型内部工作原理的研究发现，并得到了另一个实验室的验证。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
