English(EN) Open internship position + call for collaborations on threat model-dependent alignment, governance, and offense/defense balance

生存风险观测站寻求合作者，共同研究AI威胁模型对齐

作者 PulseAugur 编辑部 · [1 个来源] · 2026-04-30 12:40

生存风险观测站（Existential Risk Observatory）正与MIT FutureTech和FLI合作，启动一个项目，旨在就AI生存威胁模型达成研究者共识。该倡议旨在通过构建威胁模型分类法并努力就关键假设达成共识，来澄清专家们关于高级AI如何导致人类灭绝的分歧。这项工作力求通过明确考虑不同的威胁场景，来厘清AI对齐、治理以及攻防平衡等子领域。 AI

影响旨在阐明AI生存威胁模型，通过在研究者之间建立共同点，可能指导未来的对齐和治理研究。

排序理由这是一个专注于AI安全和生存风险的研究倡议，涉及学术合作和研究贡献的号召。

在 LessWrong (AI tag) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

LessWrong (AI tag) TIER_1 English(EN) · otto.barten · 2026-04-30 12:40

Open internship position + call for collaborations on threat model-dependent alignment, governance, and offense/defense balance

<h1><span>Open internship position + call for collaborations on threat model-dependent alignment, governance, and offense/defense balance</span></h1><p><span>At the Existential Risk Observatory, we're currently carrying out a project called </span><i><span>Solving the Right Probl…

报道来源 [1]

Open internship position + call for collaborations on threat model-dependent alignment, governance, and offense/defense balance

相关实体

相关话题