深度学习系统是复杂的适应性系统，类似于生态系统或金融市场，使得它们难以通过传统的工程方法进行控制。这些系统表现出涌现行为和反馈循环，在试图引导其行为时会导致意想不到的后果。作者建议，安全措施必须考虑到这种复杂的适应性本质，超越简单的可靠性和冗余。 AI
排序理由 该条目从复杂系统的角度分析了AI安全问题，以研究人员的博客文章形式呈现，符合‘研究’类别。
在 Bounded Regret (Jacob Steinhardt) 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!--kg-card-begin: markdown--><p>The deployment of powerful deep learning systems such as ChatGPT raises the question of how to make these systems safe and consistently aligned with human intent. Since building these systems is an engineering challenge, it is tempting to think of…