Beyond Today Magazine

人工智能的快速崛起引发希望和生存恐惧：通用人工智能和超人工智能的担忧日益增长

自ChatGPT问世以来，人工智能的飞速发展既激发了对乌托邦未来的乐观情绪，也引发了对生存灾难的恐惧。专家们认为，通用人工智能（AGI），即能够解决新问题的AI，可能在几年内就会出现。超人工智能（ASI）的潜在发展引发了关于人类生存以及各种可能结果的关键问题，这些结果范围从AI驱动的乌托邦到敌对的机器接管，再到目标不一致的意外后果，例如回形针最大化问题。