顶尖的人工智能开发者和安全研究人员担心,人工智能的能力可能很快就会超越我们的控制能力,这可能需要放缓发展速度。这种担忧因近期事件而加剧,包括一名研究员因对自我改进人工智能的担忧而从Anthropic辞职,以及行业领导者呼吁“控制前沿发展”。然而,一项全球人工智能安全协议面临着重大的地缘政治障碍,特别是美国和中国之间,因为缺乏相互信任。与其协商广泛的速度限制,不如将重点放在就危险能力的早期预警指标达成一致,并建立在达到关键阈值之前暂停开发的机制。 AI
影响 地缘政治不信任可能需要人工智能安全协议的转变,将重点放在共同的灾难性风险上,而不是广泛的发展速度限制。
排序理由 该条目是一位研究员关于人工智能安全和地缘政治影响的观点文章,而不是直接的公告或发布。
- Anthropic
- Beijing
- China
- Dario Amodei
- Hugging Face
- Jacob Coxon
- OpenAI
- Shlomit Wagman
- United States
- Washington
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →