包括 Geoffrey Hinton 和 Yoshua Bengio 在内的许多人工智能研究人员对通用人工智能(AGI)可能构成生存威胁表示担忧。这些专家,其中许多人曾为 OpenAI、Google DeepMind 和 Anthropic 等领先的人工智能实验室做出贡献,他们强调了与超级智能和对齐问题相关的风险。他们担心的核心在于,如果先进的人工智能系统没有得到妥善控制并与人类价值观保持一致,就可能导致全球灾难性风险。 AI
影响 强调了人工智能专家日益增长的担忧,即担心先进人工智能可能带来的生存风险,并强调了安全和对齐研究的必要性。
排序理由 该集群包含报道人工智能研究人员对生存风险的看法和担忧的新闻项目,而不是主要发布或事件。
在 Mastodon — mastodon.social 阅读 →
- Anthropic
- Claude 3
- Demis Hassabis
- Future of Life Institute
- Geoffrey Hinton
- Google DeepMind
- GPT-4
- OpenAI
- Stuart Russell
- Superintelligence
- Yoshua Bengio
- artificial general intelligence
- The Alignment Problem
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →