AI 2040 Plan A
PulseAugur coverage of AI 2040 Plan A — every cluster mentioning AI 2040 Plan A across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AI Futures Model 更新时间线，AC 到达日期趋于一致
AI Futures Model 已更新其 AI 时间线，对自动化编码器 (AC) 到达时间的预测基本保持不变，但由于模型改进而增加了信心。除了之前的时间范围指标外，还纳入了新的预测 AC 的方法，重点关注编码提升和收入。所有三种方法令人惊讶地收敛于相似的 AC 到达日期，尽管存在固有的不确定性，但增强了预测的稳健性。
-
前OpenAI研究员警告AI驱动的自我毁灭
前OpenAI研究员、AI Futures Project联合创始人Daniel Kokotajlo概述了AI发展可能带来的生存风险。他的工作，包括论文《AI 2027》，表明如果当前发展轨迹继续，有70%的可能性会发生自我毁灭。Kokotajlo还联合撰写了《AI 2040 Plan A》，提出了通过更保守的发展选择实现繁荣的替代未来。
-
AI未来项目提出规范性AI 2040计划，决策程序遭批评
AI未来项目发布了其“AI 2040：计划A”情景，该情景从预测转向提出在先进AI未来中的规范性前进道路。该计划包含积极的要素，例如促进AI训练的透明度，并限制内部和外部模型部署之间的智能差距。然而，作者提出了异议，特别是关于缺乏详细的决策程序来处理国际合作以及美国和中国等国家之间的冲突解决，而这些国家是该计划提出的基于计算的僵局的核心。
-
AI 2040 'Plan A' 报告预测 2026 年第一季度时间线
一份关于 2026 年第一季度时间线的更新报告已发布，详细介绍了人工智能能力的预期进展。该报告由 Daniel Kokotajlo, Scott Alexander 和 Thomas O Larsen 等人撰写，重点关注 AI 2040 项目下的 'Plan A' 计划。报告还引用了同一批研究人员发布的 2027 年人工智能报告。
-
George Hotz主张用户对齐AI，即使是出于有害目的的请求
Comma.ai创始人George Hotz就AI对齐问题引发了辩论，他反对中心化控制，主张用户对齐的AI模型。他认为AI应该能够满足用户的任何请求，即使是那些具有潜在危害的请求，并将这种AI比作一把不会抱怨其用途的枪。这一观点挑战了旨在为了集体利益而放缓发展的更广泛的AI对齐计划，强调了个人自由和对AI的本地控制。
-
AI未来项目概述“计划A”及未来研究方向
AI未来项目发布了“AI 2040：计划A”，一个用于应对潜在智能爆炸的框架。该项目正在寻求对各种策略的进一步研究，包括无限期暂停AI进展（计划S）、国内优先监管方法以及GPU军备控制协议。他们还旨在制定相互竞争的具体设想，并探索计划A的变体，以解决“干柴”（可能被重新用于能力研究的过剩计算能力，如果监管失败）等问题。
-
AI伦理：LessWrong 认为不要将永久性的财富底层阶级常态化
一篇 LessWrong 帖子认为，即使财富底层阶级按当前标准仍然富有，也不应将其常态化。作者批评了“AI 2040: Plan A”中提出的观点，即在通用人工智能（AGI）出现之前，财富分配可能导致对宇宙资源的永久性财产权，从而造成基于继承财富的巨大寿命差异。该帖子强调，负熵（negentropy），即主观存在和认知计算，随资源而扩展，使得宇宙不平等成为寿命急剧缩短的问题，而不仅仅是奢侈品数量的差异。作者认为，宇宙资源的交易性是一种…
-
AI的未来：永久性的宇宙不平等被认为不可接受
一篇LessWrong帖子反对“永久性财富分配不平等，即使在宇宙尺度上，也是先进AI发展可接受的后果”这一前提。作者批评了这样一种观点，即永久性的底层阶级，尽管按当前标准可能很富有，但却是对其他方面积极的未来可以容忍的代价。该帖子强调，宇宙资源转化为寿命的极大延长，使得这一领域的不平等比仅仅是奢侈品消费差异更为重要。
-
AI Futures Project 建议将超级智能推迟到 2040 年
AI Futures Project 发布了“AI 2040: Plan A”，一个建议将超级智能推迟到 2040 年的设想。该计划在 ai-2040.com 上详细介绍，建议通过国际合作、研究透明度和渐进式集体方法来发展 AI，以避免生存风险。该项目强调，这只是一个提议的理想未来，并非对实际情况的预测，旨在对政策建议进行压力测试。