Arvind

AI existential risk probabilities unreliable for policy, argues expert

这篇文章认为，目前对AI生存风险的概率估计过于不可靠，无法为政策决策提供依据。作者认为，这些“厄运概率”（p(doom)）数字虽然以量化的形式呈现，但缺乏扎实的方法论，本质上是“有根据的猜测”。文章强调，政策制定者应对这些估计持谨慎态度，因为它们并非源于经过验证的模型，可能具有误导性，并可能分散对更广泛AI安全问题的注意力。