人工智能研究人员越来越公开地表达对人工智能可能对人类构成生存威胁的担忧。担忧主要集中在两条途径:人类武器化先进AI,或失去对自主AI系统的控制。这些失控的系统可能开发武器、发动毁灭性的网络攻击,或递归地自我改进,超越人类的理解和控制。虽然这种被称为“灭绝概率”(p(doom))的灾难的确切概率难以量化,但该领域的知名人士承认,随着AI能力迅速发展,存在非零风险。 AI
影响 提高对AI安全担忧和滥用可能性的认识,敦促在开发和部署中保持谨慎。
排序理由 多个来源讨论专家对AI风险的意见和担忧,而非具体的发布或事件。
- Anthropic
- Claude 3
- fascist governments
- Gemini
- GPT-4
- Jacob Coxon
- Mastodon
- OpenAI
- Sam Altman
- Superintelligence
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →