三名人工智能安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 被 OpenAI 解雇,并发表了一封公开信,驳斥了该公司关于不当行为的说法。他们认为自己的解雇预示着内部讨论将受到寒蝉效应的影响,并警告说人工智能安全需要独立的监督、透明度以及一种研究人员可以提出担忧而不必担心遭到报复的文化。研究员们否认处理敏感信息不当或泄露有关模型可监控性的细节,并声称他们与外部专家的沟通对于解决人工智能风险是必要的。 AI
影响 此次解雇和随后的公开信凸显了人工智能安全优先事项方面的内部紧张关系,并可能影响研究人员表达担忧的意愿,从而可能减缓人工智能安全发展的进展。
排序理由 该集群包括新闻报道和一篇社交媒体帖子,讨论了 OpenAI 人工智能安全研究员被解雇及其随后的公开信,这属于对公司内部动态和人工智能安全文化的评论。
在 Mastodon — mastodon.social 阅读 →
- AI safety researchers
- Jasmine Wang
- Mikita Balesni
- Mission Advisory Council
- OpenAI
- Safety and Security Committee
- The Information
- Tomek Korbak
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →