一篇LessWrong帖子认为，与安全研究相比，专注于AI能力研究可以成为关注安全的代理人的理性选择。作者提出，如果一个代理人认为能力工作更有可能加速人工智能超级智能（ASI）的到来，并且这条道路最终更安全，那么追求能力研究就成为一种合乎逻辑的策略。该帖子使用假设情景来说明这种信念如何导致优先考虑能力进步而非直接的安全工作，并强调特定研究路径的感知安全性是主观的，取决于个人对AI发展的信念。 AI
影响 提出了一种对AI安全研究的逆向观点，可能影响AI开发中的战略决策。
排序理由 讨论AI研究策略的观点文章。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<p><span>If you believe that LLMs lend themselves unusually well to alignment compared to other regimes, this can be a very good reason to start doing capability research on them rather than LLM safety research. Imagine you have these beliefs about how AI goes:</span></p><div></d…