LessWrong 上的一篇最新帖子指出，AI安全社区中直接从事超级智能对齐研究的人员比例之少令人惊讶。作者提到，虽然许多人从事能力评估、风险评估和政策等相关领域的工作，但专注于确保未来超级智能AI与人类价值观保持一致的人却较少。帖子中提到的致力于对齐研究的特定组织包括Alignment Research Center、Sequent以及GDM的部分团队，还有一些零散的大学个人。 AI
影响 突显了在超级智能AI对齐的直接研究方面可能存在的差距，表明需要在这个关键领域投入更多专注的努力。
排序理由 该集群讨论了一篇关于AI安全社区研究焦点的观点文章，而不是新的发布、产品或重大事件。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
<p><span>People often assume that a large fraction of the AI safety community works on alignment. As far as we're aware, this is not true. Most people are not working on making sure superintelligent AIs are aligned with human values or follow human instructions.</span></p><p><spa…
<p><span>Edit:</span></p><p><span>The original title was unnecessarily provocative. This was a very quick post inspired by talking to someone who assumed that a large fraction of the safety community are working on directly figuring out how to align superintelligent AIs.</span></…