这篇文章探讨了仅仅被描述为优化与真正的优化代理之间的哲学区别。它质疑是否存在一个普遍接受的阈值来将一个系统归类为追求结果的代理，或者这种区别是否本质上是相对于观察者的。该讨论源于在LessWrong上关于AI控制的讨论中的观察。 AI
影响 探讨了关于AI代理和优化的基本问题，与理论AI安全讨论相关。
排序理由 该集群讨论了与AI相关的哲学区别，以论坛上的问题形式呈现，而不是具体的开发或发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
AI哲学：区分真正的优化器与描述性优化
报道来源 [1]
-
优化器与仅仅被描述为“优化”的事物有何区别？
<p><span>Reading through the AI Control posts, I notice that much if the discussion assumes a distinction between a system executing a policy and a system pursuing an outcome despite constraints. </span></p><p><span>Is there a generally accepted threshold where LessWrong would sa…