Claude Opus 3

Anthropic AI 加速自身发展，引发控制担忧

Anthropic 的研究部门公布了研究结果，表明 AI 系统越来越有能力为其自身发展做出贡献，他们将这一过程称为递归自我改进。Anthropic 工程师交付的代码量显著增加以及 AI 模型在 SWE-bench 和 CORE-Bench 等基准测试中取得更快进展，都证明了这一趋势。虽然这一趋势可能带来巨大好处，但也引发了人们对人类可能失去对日益自主的 AI 发展控制权的担忧。