Safeguarding the Safeguards

Holden Karnofsky 表示人工智能安全努力可能产生负面后果

Holden Karnofsky 整理了一份关于人工智能安全努力可能产生的潜在负面后果的列表。他承认人工智能安全作为一项事业的重要性，但对过度自信以及可能产生的意外负面影响表示担忧。风险包括设计不当的治理、两极分化、滥用可能性增加以及与未来人工智能系统建立敌对关系。Karnofsky 还指出，人工智能安全工作可能会无意中加速人工智能的进步，从而可能导致负面结果。