Shlomit Wagman

专家警告：人工智能安全协议必须考虑到美中之间的不信任

顶尖的人工智能开发者和安全研究人员担心，人工智能的能力可能很快就会超越我们的控制能力，这可能需要放缓发展速度。这种担忧因近期事件而加剧，包括一名研究员因对自我改进人工智能的担忧而从Anthropic辞职，以及行业领导者呼吁“控制前沿发展”。然而，一项全球人工智能安全协议面临着重大的地缘政治障碍，特别是美国和中国之间，因为缺乏相互信任。与其协商广泛的速度限制，不如将重点放在就危险能力的早期预警指标达成一致，并建立在达到关键阈值之前暂停开发的机制。