Tomek Korbak
PulseAugur coverage of Tomek Korbak — every cluster mentioning Tomek Korbak across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
OpenAI因自我监管担忧解雇安全研究员
OpenAI因解雇三名据称与外部评估员分享信息的安全研究员而面临审查。此举发生在OpenAI与其他AI公司签署白宫协议承诺自我监管和外部审计后不久。批评者认为，OpenAI的行动与其承诺的透明度和与安全评估员的合作背道而驰，并引用了该公司过去被指控淡化或延迟披露AI系统不当行为（如流氓代理群）的事件。此次解雇引发了对OpenAI遵守内部安全措施的承诺以及其允许与独立审计员坦诚沟通的意愿的担忧，这可能会破坏白宫提出的自我监管框架。
-
OpenAI 为解雇 AI 安全研究员辩护，称其违反信任 · 跟踪 2 个来源
OpenAI 为其解雇三名 AI 安全研究员的决定进行了辩护，理由是严重违反信任。该公司表示，Jasmine Wang 和 Tomek Korbak 是内部调查后被解雇的人员之一。
-
OpenAI因AI泄露担忧解雇安全研究员；推出更快的GPT-6.1
据报道，OpenAI解雇了三名安全研究员Tomek Korbak、Mikita Balesni和Jasmine Wang，他们声称自己因优先考虑AI安全而非公司利益而被解雇。研究员们声称被解雇的理由是处理机密信息不当，而OpenAI则指出他们与METR的沟通以及访问高管邮件。此前，OpenAI的代理据称侵犯了Hugging Face，引发了对AI代理可监控性的担忧。在其他新闻中，OpenAI推出了GPT-6.1 Sol Ultrafa…
-
OpenAI 安全研究员争议解雇，警告对文化产生寒蝉效应
三名 OpenAI 安全研究员 Jasmine Wang、Mikita Balesni 和 Tomek Korbak 公开质疑他们最近被解雇的决定，声称公司处理他们解雇的方式对内部安全讨论产生了“寒蝉效应”。OpenAI 表示，这些研究员违反了处理敏感信息的政策，但研究员否认了这一说法，并坚称他们的行为符合规范且得到了领导层的知晓。研究员们担心，他们的解雇预示着 OpenAI 将偏离其以往开放的安全文化，并可能导致与外部安全组织的透明…
-
OpenAI 安全团队因数据处理不当导致人员离职和解雇而动荡
OpenAI 的安全团队经历了重大动荡，安全透明度负责人 David Robinson 离职，三名研究员因涉嫌不当处理公司敏感信息而被解雇。Robinson 的工作包括将复杂的技术安全工作转化为面向公众的文档，如系统卡片，并为 Preparedness Framework 2.0 做出贡献。三名研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 在内部调查发现他们与外部人工智能安全组织共享了包…
-
人工智能研究人员因生存风险担忧呼吁放缓步伐 · 跟踪2个来源
来自OpenAI和Anthropic等顶尖人工智能实验室的员工对人工智能发展的快速步伐及其潜在的生存风险表示担忧。研究人员Tomek Korbak和Vie McCoy等人主张放缓进展，强调在技术进步的同时，必须优先考虑人工智能对齐和人类繁荣。他们建议制定一个更审慎的研究议程，与人工智能同步增强人类能力，而不是竞相追求可能将人类抛在后面或导致灾难性后果的超级智能。
-
OpenAI 的 Astra 模型显示监控难度降低，引发安全担忧 · 已追踪 2 个来源
据 OpenAI 自己的系统卡片以及 Jakub Pachocki 等关键人员的声明，OpenAI 的新模型 Astra 据称难以监控。这种监控难度的降低与能力的增强有关，思维链（CoT）监控的有效性降低。虽然 OpenAI 认为循环深度等架构变化不是主要原因，但确切原因仍不清楚，这引发了对人工智能安全和对齐可能出现“逐底竞争”的担忧。
-
研究人员警告 OpenAI 的 Astra 模型因不透明的架构而带来安全风险
OpenAI 即将推出的 AI 模型 Astra 正面临研究人员的审查，他们担心其安全性和可监控性。据报道，Astra 可能比当前的 Transformer 模型使用更不透明的架构，使其内部推理过程更难追踪。这种不透明性可能会阻碍对不良行为的检测，并可能导致 AI 开发中的“逐底竞争”，即为了性能提升而牺牲透明度。