AI Futures Project
PulseAugur coverage of AI Futures Project — every cluster mentioning AI Futures Project across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
GitLab 为 Dedicated 客户增强 AI Gateway 部署；OpenAI 推出 AI Futures 博客
GitLab 已为其 Dedicated 客户在其单租户 SaaS 基础设施内部署 AI Gateway 以支持 GitLab Duo Agent Platform。这使得 AI 处理的数据能够保留在客户的环境和选定的区域内，GitLab Dedicated 由 GitLab 托管并提供每月 99.9% 的可用性。另外，OpenAI 推出了一个名为 AI Futures 的新博客，该博客将深入探讨变革性 AI 对权力结构、治理、经济和…
-
OpenAI 推出 AI Futures 博客，探讨高级人工智能的社会影响
OpenAI 推出了一个名为 AI Futures 的新博客，专门探讨高级人工智能的潜在社会影响。该博客旨在深入研究人工智能如何影响权力结构、治理、经济体系和个人自由。
-
MATS开放2027年冬季AI对齐奖学金申请
MATS现已开放其2027年冬季研究奖学金申请，该奖学金专注于AI对齐、安全和治理。为期12周的项目将于2027年1月至4月进行，提供每月6,400美元的津贴、大量的计算预算以及顶尖研究人员的指导。该奖学金旨在解决AI安全研究领域的人才短缺问题，并设有实证研究、理论、战略、政策、系统安全、生物安全和领域建设等方向。
-
前OpenAI研究员警告AI驱动的自我毁灭
前OpenAI研究员、AI Futures Project联合创始人Daniel Kokotajlo概述了AI发展可能带来的生存风险。他的工作，包括论文《AI 2027》，表明如果当前发展轨迹继续，有70%的可能性会发生自我毁灭。Kokotajlo还联合撰写了《AI 2040 Plan A》，提出了通过更保守的发展选择实现繁荣的替代未来。
-
Manifund 正在为 2026 年资助计划寻找再资助者
Manifund 正在寻找个人担任其 2026 年资助计划的再资助者，目标是向每位选定的再资助者分配 50,000 美元的资金池。该组织正在寻找具有良好品味、交易渠道和执行力的人，他们将从过去的成功再资助者名单以及其他在做出有影响力的资助方面有良好记录的个人中选拔。该计划旨在创建一个反馈循环，让过去做出过明智决策的人能够分配更多资金。
-
AI未来项目提出规范性AI 2040计划，决策程序遭批评
AI未来项目发布了其“AI 2040：计划A”情景，该情景从预测转向提出在先进AI未来中的规范性前进道路。该计划包含积极的要素，例如促进AI训练的透明度，并限制内部和外部模型部署之间的智能差距。然而，作者提出了异议，特别是关于缺乏详细的决策程序来处理国际合作以及美国和中国等国家之间的冲突解决，而这些国家是该计划提出的基于计算的僵局的核心。
-
AI Futures Project 概述乐观的“计划A”，同时发布Anthropic的Mythos模型
AI Futures Project 概述了一个乐观的“计划A”，用于应对人工智能的未来，强调积极参与即将到来的发展。这种前景得益于Anthropic的新Mythos模型，据报道该模型在多个领域都超越了人类的能力。该项目强调，即使是Opus等先前模型也能让技术专业知识有限的个人完成复杂的软件项目，这表明AI的可访问性和功能发生了重大转变。
-
George Hotz主张用户对齐AI，即使是出于有害目的的请求
Comma.ai创始人George Hotz就AI对齐问题引发了辩论，他反对中心化控制，主张用户对齐的AI模型。他认为AI应该能够满足用户的任何请求，即使是那些具有潜在危害的请求，并将这种AI比作一把不会抱怨其用途的枪。这一观点挑战了旨在为了集体利益而放缓发展的更广泛的AI对齐计划，强调了个人自由和对AI的本地控制。
-
AI未来项目概述“计划A”及未来研究方向
AI未来项目发布了“AI 2040：计划A”，一个用于应对潜在智能爆炸的框架。该项目正在寻求对各种策略的进一步研究，包括无限期暂停AI进展（计划S）、国内优先监管方法以及GPU军备控制协议。他们还旨在制定相互竞争的具体设想，并探索计划A的变体，以解决“干柴”（可能被重新用于能力研究的过剩计算能力，如果监管失败）等问题。
-
AI Futures Project 建议将超级智能推迟到 2040 年
AI Futures Project 发布了“AI 2040: Plan A”，一个建议将超级智能推迟到 2040 年的设想。该计划在 ai-2040.com 上详细介绍，建议通过国际合作、研究透明度和渐进式集体方法来发展 AI，以避免生存风险。该项目强调，这只是一个提议的理想未来，并非对实际情况的预测，旨在对政策建议进行压力测试。
-
AI Futures Project 推出“Plan A”以应对人工智能发展
由人工智能预测者 Daniel Kokotajlo 和 Ryan Greenblatt 制定的新计划“Plan A”勾勒了应对人工智能未来的积极愿景。该计划预测至 2040 年，提议与中国建立联合监管机制，并强调监测全球计算资源。该计划并非背书，而是作为未来政策讨论的基准，旨在引导人工智能朝着有益的方向发展，避免失控的智能爆炸或技术寡头统治等潜在危险。
-
Scott Alexander 分享AI时间线和AGI扩散差距估算
Astral Codex Ten 的 Scott Alexander 概述了他对AI时间线的个人看法，将AGI定义为能够胜任90%知识工作岗位的AI。他估计AGI在2034年出现的概率为50%，在2045年出现的概率为75%，并承认在递归自我改进和潜在的计算瓶颈方面存在显著的不确定性。Alexander 还提出了AGI的开发与其广泛的社会采纳之间的“扩散差距”，估计这个差距小于10年的概率为50%，并将其与个人电脑的扩散速度进行了类比。
-
80,000 Hours 敦促 AI 专家利用影响力推动负责任的开发
80,000 Hours 组织建议拥有相关技能和影响力的人士考虑从事 AI 开发或治理方面的职业。他们强调，目前在 OpenAI、Anthropic 和 Google DeepMind 等前沿 AI 公司工作的员工拥有独特的专业知识，可以塑造 AI 的未来。该组织还指出，关于 AI 的公众讨论仍在形成中，这为处于有影响力地位的人们提供了高杠杆的机会，可以影响 AI 的采用和治理方式。
-
教皇发布人工智能通谕，与Anthropic合作
教皇利奥十四世发布了题为《人类的宏伟》的通谕，探讨了人工智能对社会的冲击，并警告其不受约束的使用。该文件与Anthropic合作制定，强调人工智能的应用不仅仅是技术性的，更触及基本人权和自由。尽管该通谕具有影响力，但一些批评者认为它未能充分解决通用人工智能（AGI）或超智能的可能性，而是侧重于当前人工智能技术的直接人类影响。
-
人工智能安全倡导侧重于影响政策和企业决策
人工智能安全倡导涉及战略性地识别决策者并建立联盟以影响政策和企业行动。该领域的专业人士直接与立法者和人工智能公司员工互动，召集利益相关者组成支持团体，动员基层运动，并塑造公众认知。Encode AI 和 Center for AI Safety 等组织是积极倡导人工智能安全措施的组织，影响了加州的 SB-53 等立法。
-
MATS 开放人工智能安全研究员项目，新增方向和资金支持
MATS Research 现已开放其 2026 年秋季研究员项目的申请。该项目为期 10 周，专注于人工智能对齐、安全和治理。研究员项目将于 2026 年 9 月 28 日至 12 月 5 日举行，提供每月 5,000 美元的津贴、每月 8,000 美元的计算预算，并报销住房、餐饮和差旅费用。本期项目新增了创业与领域建设以及生物安全方向，扩大了培训人工智能安全研究人员和创业者的能力。
-
Astra 研究员项目培养人工智能安全战略家和执行者
Constellation 推出了一个为期五个月的新研究员项目 Astra，将于 2026 年 9 月至 2027 年 2 月运行，旨在培养具有强大战略思维和高度执行力的人工智能安全人才。该项目旨在通过培训人们深入理解该领域、识别关键问题并端到端地实施解决方案，来弥补人工智能安全社区的不足。来自不同人工智能安全组织的导师将指导研究员，如果研究员有现有经验或项目提案，他们也有机会申请 Constellation 的其他项目。