Alfred Southwick

Anthropic 警告称 AI 模型可能很快会帮助构建更智能的 AI

Anthropic 在更新的财务申报中表达了担忧，其 AI 模型可能很快就能协助开发更高级的版本。这种递归自我改进（RSI）的潜力可能会加速 AI 的发展，带来重大的科学发现，但也对控制和安全测试提出了挑战。该公司承认之前曾忽视了重大的模型进展，并正在考虑调整安全规则，以确保随着 AI 能力的增长，人类的监督仍然至关重要，尽管其当前模型尚未达到这种自我改进的阶段。