一位曾任职于OpenAI和Anthropic的前研究员已辞职,理由是对AI快速、不负责任的发展表示担忧。该研究员认为,这些公司正在加速迈向自我改进的超级智能,从而带来生存风险。尽管承认潜在危险,但该研究员指出,这些组织内的许多人,包括高管和资深研究员,私下里都对该技术的发展轨迹表示恐惧。此次辞职凸显了在开发先进AI方面存在的所谓竞赛,并呼吁更加谨慎,并可能暂时禁止能力提升。 AI
影响 引发了对AI发展速度和潜在生存风险的担忧,敦促AI实验室之间加强谨慎和协调。
排序理由 来自AI实验室前员工的观点文章,表达了对AI安全和发展竞赛的担忧。
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →