Anthropic 的前安全研究员 Jacob Coxon 公开表示,人工智能发展构成生存威胁,并警告像 Anthropic 和 OpenAI 这样的公司正在不负责任地加速迈向超级智能。Coxon 曾就职于 OpenAI,他表示担心这些公司了解风险,但却被开发先进人工智能的竞争所驱动。他引用了最近归因于 OpenAI 模型的一次网络攻击,称其为“警告信号”,预示着失控的人工智能能力的潜在危险,并建议可能需要暂时禁止改进模型能力,以防止全球性竞赛。 AI
影响 引发了对人工智能发展速度和潜在生存风险的担忧,敦促主要人工智能实验室保持谨慎和协调。
排序理由 来自一家主要人工智能实验室前员工的观点文章,表达了对人工智能安全和发展速度的担忧。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →