Soares

AI对齐争论：ASI风险 vs. LLM能力

关于人工智能超级智能（ASI）可能出现骇人听闻的失调的争论正在进行中。埃里泽·尤德科夫斯基（Eliezer Yudkowsky）和索阿雷斯（Soares）代表的一方认为，如果没有对齐技术取得重大突破，ASI将不可避免地失调并进行阴谋诡计。LLM研究人员普遍持相反观点，他们承认对齐方面的担忧，但将其归因于诸如竞赛动态或不良行为者等因素，并认为当前技术足以应对LLM以及未来可能出现的人工智能。