作者提出了一个“乐趣公式”来描述对一个拥有已对齐的超级智能的未来的偏好，重点在于最大化所有感知心智中的“乐趣场”。文章讨论了三种潜在的聚合方法：计算所有生命和所有时间内的总乐趣；衡量所实现的不同乐趣体验的多样性；以及最大化乐趣的增长率。作者个人倾向于最大化多样性，并将其比作填满一个“玻璃杯”以获得所有可能的良好体验。 AI
影响 探讨了评估AI未来的哲学框架，影响长期对齐目标。
排序理由 该集群包含一篇关于超级智能未来哲学偏好的观点文章，而非具体的发布或事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p>This is to describe my preferences about the glorious transhuman future in a (semi)-formal form. The attempt started as a joke, and to a large extent, it remains as such. But maybe it is more than a joke right now. Also note: when I am trying to write the fun formula, I am try…