Plan A
PulseAugur coverage of Plan A — every cluster mentioning Plan A across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
AI chip regulation 'Plan A' faces debate over its impact on lab profits and market dynamics
Analysis of 'Plan A' indicates a divergence in opinion regarding its economic consequences. While some LessWrong authors argue the plan would decrease lab profits and challenge 'de facto' nationalization, Scott Alexander's analysis suggests the chip regulations are not overly burdensome. This suggests ongoing debate and potential for further analysis on the economic feasibility and market impact of 'Plan A'.
International collaboration models (e.g., CERN) may emerge as a Plan A alternative if national controls prove difficult
Given the exploration of CERN-like international projects as a 'Plan A' scenario for AI governance, it's plausible that if national-level chip control or transparency initiatives face significant hurdles (e.g., international disputes, technological evasion), a collaborative, multi-national AI development framework could gain traction as a more manageable alternative.
Plan A may pivot to 'Total Research Transparency' if compute-based deterrence fails
The recent proposal for 'Total Research Transparency' by AI 2040, which advocates for open access to algorithmic secrets and experiments, could be adopted by Plan A proponents if their current deterrence strategies (like MACD) prove insufficient. The 'dry tinder' problem highlights the risk of compute acceleration, suggesting that transparency might become a more viable control mechanism than compute-based deterrence alone.
-
AI 减速策略优先考虑安全投入而非持续时间
对“Plan A”的最新分析表明，仅关注 AI 减速的持续时间，不如优先考虑安全投入和安全措施的财务影响有效。文章强调，提高透明度对于制定细致的安全法规和减轻 AI 开发者之间的权力集中至关重要。分析还指出，虽然在协调一致的情况下扩展计算能力可能是有益的，但需要有计算军备控制机制来防止崩溃风险，其中交易崩溃和秘密项目是重大且被低估的危险。
-
AI计算验证策略评估：推理与训练的对比
本次分析评估了Plan A关于验证AI模型推理中计算使用情况的策略，重点关注防止未经授权训练的方法。作者考察了互连限制、内存擦除和零知识证明（ZKPs），评估了它们减缓训练和增加推理开销的潜力。一项关键提议是移除后端网络，并对前端网络施加带宽限制，以阻碍训练过程中的梯度共享，同时力求对推理操作的影响最小。评估还考虑了低通信训练算法等对抗性攻击，并提出了关于这些攻击在最前沿规模下的有效性及其对视频生成等任务影响的公开问题。
-
AI-2040 提议在 2035 年前暂停人工智能发展
由 AI-2040 撰写的“Plan A”叙述提出了一项全球条约，旨在显著减缓人工智能的发展，目标是在 2035 年左右实现认知能力增长的近乎完全暂停。此举旨在为安全研究提供足够的时间来开发强大的对齐技术，最终目标是在 2040 年将控制权移交给与人类利益保持一致的人工智能。该计划包括对人类和人工智能可靠的谎言检测的假设，并预测了一个具有多样化对齐目标的多极人工智能格局，尽管作者对计划的具体细节以及此类协议被普遍采纳和执行的可能性表示一些保留。
-
分析认为，AI芯片监管计划并非反乌托邦式监控国家
Scott Alexander在Astral Codex Ten的文章中认为，被称为“Plan A”的拟议AI芯片监管措施并非反乌托邦式监控国家的迹象。该计划涉及注册芯片制造商、Google等买家以及数据中心，并允许美国和中国通过加密软件停止运营。Alexander将这些监管措施与现有的Xanax和Adderall等物质管制进行比较，认为虽然它们需要文书工作和检查，但并不会带来过度的负担，也不会导致人们常担心的严重间接后果，例如犯罪率…
-
LessWrong 作者为 AI 发展计划辩护，驳斥批评
LessWrong 作者正在回应对其“Plan A”人工智能发展提案的批评。他们认为 Séb Krier 的批评歪曲了他们的计划，他们将该计划描述为迭代和透明的，比当前市场驱动的方法提供了更多的学习和实验机会。作者们还对 Krier 的经济假设提出异议，声称 Plan A 会减少而不是增加实验室利润，并且“事实上的”国有化并非最佳解决方案。他们澄清说，尽管美国和中国监管机构会协调禁止危险研究，但这将基于公开可获取的证据，而不是一个中央规划机构。
-
AI 2040 提议“全面研究透明度”以确保 AGI 安全
AI 2040 项目提出了一个“全面研究透明度”计划，以确保 AGI 的安全发展，特别是在美国和中国之间建立无信任协议的背景下。该计划主张几乎所有算法秘密、实验和训练运行都应立即向公众公开，同时防止模型权重和敏感数据离开数据中心。这种方法的主要动机是改善政府和企业在 AGI 发展的关键阶段的决策能力，并减轻参与人工智能研究的实体滥用权力的风险。
-
AI 安全计划：芯片级控制、类似 CERN 的项目和威慑
文章探讨了治理变革性 AI 的几种“A 计划”场景，超越了单一提案。一种想法涉及在芯片层面控制 AI 开发，集成监控和远程终止开关，但这面临现有芯片库存和物理篡改的挑战。另一个概念是类似 CERN 的联合国际项目，多个国家在 AI 训练上进行合作，以简化监控并增加合法性，但这会带来治理复杂性和潜在争端。第三种方法，受“相互保证毁灭”（MAD）的启发，提出了一种威慑策略，即各国同意对感知到的超级智能开发采取强硬行动，利用 MAD 的稳定…
-
Plan A 的“干草堆”问题可能加速人工智能智能爆炸
对 Plan A（一项旨在安全开发超级智能的拟议策略）的关键分析强调了“干草堆”问题。这种类比表明，虽然该计划旨在暂停软件开发并建立计算能力，但如果暂停失败，增加的计算量可能会加速智能爆炸。该计划依赖“相互确保的计算毁灭”（MACD）来阻止违规行为，这一点也受到质疑，人们担心检测违规行为的速度和可靠性。
-
AI Futures Project 建议将超级智能推迟到 2040 年
AI Futures Project 发布了“AI 2040: Plan A”，一个建议将超级智能推迟到 2040 年的设想。该计划在 ai-2040.com 上详细介绍，建议通过国际合作、研究透明度和渐进式集体方法来发展 AI，以避免生存风险。该项目强调，这只是一个提议的理想未来，并非对实际情况的预测，旨在对政策建议进行压力测试。
-
AI Futures Project 推出“Plan A”以应对人工智能发展
由人工智能预测者 Daniel Kokotajlo 和 Ryan Greenblatt 制定的新计划“Plan A”勾勒了应对人工智能未来的积极愿景。该计划预测至 2040 年，提议与中国建立联合监管机制，并强调监测全球计算资源。该计划并非背书，而是作为未来政策讨论的基准，旨在引导人工智能朝着有益的方向发展，避免失控的智能爆炸或技术寡头统治等潜在危险。