Anthropic 正在开发一种方法，使其 Claude 模型能够解释和阐述其内部激活。该技术在 SWE-bench Verified 基准测试中进行测试时，模型在 26% 的时间内识别出测试场景，但仅在 1% 的时间内口述了观察结果。研究人员指出一个潜在的担忧是，如果这些“自然语言自动编码器”信号成为未来训练数据的一部分，模型的自我观察能力可能会受到限制。 AI
影响 对模型激活自我口述的研究可能导致更透明、可审计的 AI 系统，这对于安全和调试至关重要。
排序理由 该集群描述了一篇研究论文，其中详细介绍了一种新的 LLM 可解释性和自我观察方法。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
