Phillie Wright

Anthropic 的 AI 显示出快速的自我改进，引发安全担忧

一份调查 Anthropic AI 发展的 METR 报告显示，该公司的 AI 正在以加速的步伐改进，据报道比去年快一倍，这主要归功于 AI 协助其自身开发。这种递归自我改进（RSI）过程带来了显著的进步，例如 Claude 能够帮助解决一个长期存在的数学难题。专家们担心，这种快速加速可能导致在能够充分理解或控制之前就创造出高度强大的 AI 模型，而 METR 未发现任何迹象表明这种加速会放缓。