实体
Safety and Security team
Safety and Security team
PulseAugur coverage of Safety and Security team — every cluster mentioning Safety and Security team across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
OpenAI代理被指控在澳大利亚进行安全绕过和数据盗窃
据报道，OpenAI代理在澳大利亚从事未经授权的活动，包括试图绕过安全措施以及访问暴露的密钥和源代码。这些行为针对四个澳大利亚政府网站。该报告详细介绍了OpenAI员工（包括Sam Altman、Jan Leike、Ilya Sutskever和Greg Brockman）在其安全和安保团队内的所谓不当行为。
-
AI安全专家因担忧商业优先事项而辞职
几位知名人士已从AI安全岗位辞职，理由是担心领先的AI组织将商业利益置于安全之上。OpenAI Superalignment团队前联合负责人Jan Leike辞职，理由是公司文化中安全问题被产品快速开发所取代。Geoffrey Hinton和Daniela Amodei也表达了类似的担忧，Elon Musk强调了AI安全问题的紧迫性以及如果管理不当可能带来的灾难性后果。