Christiano

生存风险观测站寻求合作者，共同研究AI威胁模型对齐

生存风险观测站（Existential Risk Observatory）正与MIT FutureTech和FLI合作，启动一个项目，旨在就AI生存威胁模型达成研究者共识。该倡议旨在通过构建威胁模型分类法并努力就关键假设达成共识，来澄清专家们关于高级AI如何导致人类灭绝的分歧。这项工作力求通过明确考虑不同的威胁场景，来厘清AI对齐、治理以及攻防平衡等子领域。