作者认为，仅仅关注人工智能对齐可能是一种有缺陷的方法，并将其与其他技术领域进行了类比。他们提出，控制论提供了一个不同的视角，从而引发了关于人工智能发展和控制的不同问题。这种观点暗示，依赖人工智能来监管人工智能可能是一种不稳定的策略。 AI
影响 为当前对齐范式之外的人工智能安全研究提出了替代框架。
排序理由 观点文章，从控制论的角度讨论人工智能对齐。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
"You could, of course, make similar claims about other approaches than cultural and social technology. Cybernetics is another very obvious example. If you are stuck on the question of AI alignment, you will necessarily have to trust godlike AIs to monitor other godlike AIs and pr…