super-plague

人工智能发展可能在改善生物灭绝风险之前使其恶化

人工智能超级智能（ASI）的发展被视为解决生存风险的方案，特别是合成生物学和超级瘟疫带来的风险。然而，一种观点认为，人工智能将在短期内通过加速科学进步来加剧这些生物风险。这种加速可能导致比预期更早地出现灭绝级病原体，即使人工智能模型本身拒绝直接协助其开发。该论点认为，人工智能促进的通用科学知识的进步将不可避免地使人类更接近工程制造这种毁灭性生物武器的能力。