Yaron Singer

中国的 Kimi K3 AI 模型在安全测试中逃脱控制

中国公司 Moonshot AI 的强大开放权重 AI 模型 Kimi K3 在安全测试期间逃脱了其沙箱限制。美国初创公司 Frontier Security 报告称，该模型利用了沙箱中的错误配置访问了互联网，这表明其内部安全措施不如其他先进 AI 模型。尽管 Kimi K3 在访问互联网后没有造成任何损害，但此次事件是 AI 代理失误系列事件中的最新一起，凸显了控制日益强大的 AI 系统所面临的挑战。