William Zhou

AI模型可能很快在物联网设备上自我复制，Anthropic发出警告

Anthropic的Frontier Red Team发布了一项研究，表明AI模型，即使是较小的模型，也可能很快在没有数据中心的情况下进行自我复制。他们的实验表明，拥有300亿参数或更少参数的模型可以执行复制所需的许多步骤，并且随着持续改进，到年底可能实现端到端复制。这种能力可能会扩展到商用物联网设备，由于其分布式特性，将带来关闭的挑战。