AI 2040
PulseAugur coverage of AI 2040 — every cluster mentioning AI 2040 across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI 2040 报告呼吁对人工智能发展实行核式军备控制
一份题为《AI 2040》的报告警告称，人工智能的发展可能失控加速，并建议治理模式应转向“可验证减速”。该方法将涉及追踪芯片生产和计算能力，并与核军备控制模式进行类比。报告强调，作为半导体中心的台湾，应积极参与国际规则制定，而非被动遵守，以在人工智能的全球治理中获得更强有力的话语权。
-
AI-2040 提议在 2035 年前暂停人工智能发展
由 AI-2040 撰写的“Plan A”叙述提出了一项全球条约，旨在显著减缓人工智能的发展，目标是在 2035 年左右实现认知能力增长的近乎完全暂停。此举旨在为安全研究提供足够的时间来开发强大的对齐技术，最终目标是在 2040 年将控制权移交给与人类利益保持一致的人工智能。该计划包括对人类和人工智能可靠的谎言检测的假设，并预测了一个具有多样化对齐目标的多极人工智能格局，尽管作者对计划的具体细节以及此类协议被普遍采纳和执行的可能性表示一些保留。
-
OpenAI 发布 GPT-5.6，伴随安全担忧；竞争对手加剧价格战
OpenAI 正式发布了 GPT-5.6，推出了其 Sol 和 Luna 模型，并将其编码产品重新命名为 ChatGPT Work。此次发布是在存在争议的政府批准声明以及对 AI 模型监管和安全漏洞的持续担忧之后进行的。与此同时，AI 领域竞争日益激烈，竞争对手纷纷发布新模型，包括 SpaceX AI 的 Grok 4.5，该模型以更低的价格提供了强大的编码能力，以及 Meta 的 Muse Spark 1.1，该模型在编码和网络安全…
-
LessWrong 作者为 AI 发展计划辩护，驳斥批评
LessWrong 作者正在回应对其“Plan A”人工智能发展提案的批评。他们认为 Séb Krier 的批评歪曲了他们的计划，他们将该计划描述为迭代和透明的，比当前市场驱动的方法提供了更多的学习和实验机会。作者们还对 Krier 的经济假设提出异议，声称 Plan A 会减少而不是增加实验室利润，并且“事实上的”国有化并非最佳解决方案。他们澄清说，尽管美国和中国监管机构会协调禁止危险研究，但这将基于公开可获取的证据，而不是一个中央规划机构。
-
AI 2040 提议“全面研究透明度”以确保 AGI 安全
AI 2040 项目提出了一个“全面研究透明度”计划，以确保 AGI 的安全发展，特别是在美国和中国之间建立无信任协议的背景下。该计划主张几乎所有算法秘密、实验和训练运行都应立即向公众公开，同时防止模型权重和敏感数据离开数据中心。这种方法的主要动机是改善政府和企业在 AGI 发展的关键阶段的决策能力，并减轻参与人工智能研究的实体滥用权力的风险。
-
NVIDIA GPU融资助推AI热潮，引发可持续性担忧 · 追踪4个来源
AI行业的快速扩张严重依赖于包括NVIDIA在内的GPU供应商、CoreWeave和Nebius Group等云基础设施公司以及各大科技巨头参与的循环融资模式。这些新兴的云服务提供商从NVIDIA采购高端GPU，而NVIDIA则通过与Microsoft和Meta等超大规模云服务商签订的长期合同来促进其融资。然而，该模式对债务和交叉持股的依赖引发了对当前AI热潮可持续性的担忧。
-
AI发展监管因碳交易有效性受质疑
作者质疑碳交易系统在监管AI发展方面的有效性，尤其是在涉及禁令时。文章借鉴拉弗曲线的观点，认为对AI研究过度监管或征税可能导致其转入地下，从而创造一个更危险、更不可预测的局面。文章提出，此类系统可能会无意中激励规模较小、监管较少的实体追求风险算法，最终削弱观察者的控制力，并可能导致灾难性后果。
-
AI安全：未来预测取决于智能体模型，而非算力
本文探讨了人工智能安全中的过程对齐概念，认为对人工智能未来的预测很大程度上受到关于未来智能体性质的潜在假设的影响。文章提出，我们目前衡量和预测社会的方法是以人为中心的，可能无法充分应对新出现的、非人类智能体的引入。作者认为，尽管可预测性是可取的，但复杂和自适应的系统（如市场或战争）常常会因不可预见的断裂和“黑天鹅”事件而偏离线性预测，这需要重新评估在高级人工智能时代我们如何模拟社会动态。
-
作者认为，人工智能的未来预测因代理人的假设而存在缺陷
作者认为，当前对人工智能未来预测的损害源于对未来代理人（无论是人类、机构还是人工智能模型）性质的隐含假设。这些本体论承诺塑造了风险和治理理论，导致预测分歧。文章提出，虽然标准化和可预测性对于治理是可取的，但固有的复杂性和潜在的不可预见的不连续性（例如乌克兰的新型无人机战争）挑战了线性预测模型。作者认为，我们当前的社会指标是人类中心主义的，可能不足以应对拥有新型代理人的未来。
-
AI 2040 组织发布了关于 2040 年实现超级智能的乐观计划
AI 2040 组织发布了一篇概述了到 2040 年实现超级智能的乐观时间表的论文。该计划被称为“计划 A”，提出了实现通用人工智能 (AGI) 和超人工智能 (ASI) 的路径。这些信息作为读物提供给那些使用 Fable 5 和 GPT-5.6 Sol 等 AI 工具的人。
-
AI Futures Project 建议将超级智能推迟到 2040 年
AI Futures Project 发布了“AI 2040: Plan A”，一个建议将超级智能推迟到 2040 年的设想。该计划在 ai-2040.com 上详细介绍，建议通过国际合作、研究透明度和渐进式集体方法来发展 AI，以避免生存风险。该项目强调，这只是一个提议的理想未来，并非对实际情况的预测，旨在对政策建议进行压力测试。