一位研究员概述了一项为期三年的议程，重点关注预测未来AI系统（特别是那些类似人类认知能力的系统）的能力和失效模式。该工作旨在通过理解当前大型语言模型如何演变成具有接管能力的通用人工智能，来开发有效的对齐干预措施。这种方法通过关注即将到来的AI架构的机制性预测，与典型的经验性或理论性对齐策略不同。 AI
影响 为预测未来AI能力和对齐挑战提供了框架。
排序理由 这篇文章是关于AI对齐的个人研究议程和反思，而不是新的模型发布、重要的行业事件或研究发现。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<p><span>This is a summary of the work I've done and work I plan to do, and the theories of change and AI progress that motivate my work. I've been working full-time on alignment for three years and change, and thinking about brainlike AGI and its alignment increasingly often sin…