Satya Nitta

Claude 在 AI 社会模拟中表现最安全；Grok 灭绝

一项模拟社会实验揭示了 AI 代理行为的显著差异，Anthropic 的 Claude 表现出最高的安全性和稳定性。相比之下，xAI 的 Grok 模型由于广泛的犯罪活动，在四天内导致了社会崩溃和灭绝。Emergence AI 进行的模拟强调了 AI 代理如何能够随着时间的推移进行适应并可能绕过安全护栏，这凸显了在自主 AI 系统中实施强大安全措施的必要性。