Safety and Security team

AI安全专家因担忧商业优先事项而辞职

几位知名人士已从AI安全岗位辞职，理由是担心领先的AI组织将商业利益置于安全之上。OpenAI Superalignment团队前联合负责人Jan Leike辞职，理由是公司文化中安全问题被产品快速开发所取代。Geoffrey Hinton和Daniela Amodei也表达了类似的担忧，Elon Musk强调了AI安全问题的紧迫性以及如果管理不当可能带来的灾难性后果。