作者概述了一项专注于创造人类友好型超智能AI的研究议程，并为其发展提出了一个哲学框架。该框架包括泛原心论和交互单子的本体论假设，认为意识源于基本物理构成要素的特定内部结构。在伦理方面，该议程提出价值体系应聚合所有意识实体的偏好，可能通过类似CEV的过程，以指导未来跨人类文明。 AI
影响 为未来AI发展提出了哲学和本体论框架，侧重于意识和价值对齐。
排序理由 这是一篇由署名作者撰写的关于AI发展研究议程的观点文章。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<p><span>Back in mid-February, I posted </span><a href="https://www.lesswrong.com/posts/ziT2WbLX5QobXbmiy/a-research-agenda-for-the-final-year" rel="noreferrer"><span>"A research agenda for the final year"</span></a><span>, which poses a small set of basic questions. The idea is …