AI Futures Project
PulseAugur coverage of AI Futures Project — every cluster mentioning AI Futures Project across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI未来项目建议将超级智能推迟到2040年
AI未来项目发布了《AI 2040：计划A》，一个详细的设想，建议将超级智能的时间表推迟到2040年。该计划并非预测，而是概述了美国和中国政府为实现这一推迟而应采取的行动。该项目旨在引导通用人工智能（AGI）朝着积极的方向发展。
-
Scott Alexander的Astral Codex Ten发布“Plan A”人工智能路线图
Scott Alexander的Astral Codex Ten博客发布了“Plan A”，这是由Daniel Kokotajlo和AI Futures Project制定的、用于应对人工智能未来的详细路线图。该愿景概述了从现在到2040年的最佳情景，假设美国尽管存在全球竞争动态和潜在的智能爆炸，仍能做出最佳选择。Plan A的一个关键要素是提议与中国建立联合人工智能监管制度，旨在建立一条共同前进的道路，而非竞争之路。
-
Scott Alexander 分享AI时间线和AGI扩散差距估算
Astral Codex Ten 的 Scott Alexander 概述了他对AI时间线的个人看法，将AGI定义为能够胜任90%知识工作岗位的AI。他估计AGI在2034年出现的概率为50%，在2045年出现的概率为75%，并承认在递归自我改进和潜在的计算瓶颈方面存在显著的不确定性。Alexander 还提出了AGI的开发与其广泛的社会采纳之间的“扩散差距”，估计这个差距小于10年的概率为50%，并将其与个人电脑的扩散速度进行了类比。
-
80,000 Hours 敦促 AI 专家利用影响力推动负责任的开发
80,000 Hours 组织建议拥有相关技能和影响力的人士考虑从事 AI 开发或治理方面的职业。他们强调，目前在 OpenAI、Anthropic 和 Google DeepMind 等前沿 AI 公司工作的员工拥有独特的专业知识，可以塑造 AI 的未来。该组织还指出，关于 AI 的公众讨论仍在形成中，这为处于有影响力地位的人们提供了高杠杆的机会，可以影响 AI 的采用和治理方式。
-
教皇发布人工智能通谕，与Anthropic合作
教皇利奥十四世发布了题为《人类的宏伟》的通谕，探讨了人工智能对社会的冲击，并警告其不受约束的使用。该文件与Anthropic合作制定，强调人工智能的应用不仅仅是技术性的，更触及基本人权和自由。尽管该通谕具有影响力，但一些批评者认为它未能充分解决通用人工智能（AGI）或超智能的可能性，而是侧重于当前人工智能技术的直接人类影响。
-
人工智能安全倡导侧重于影响政策和企业决策
人工智能安全倡导涉及战略性地识别决策者并建立联盟以影响政策和企业行动。该领域的专业人士直接与立法者和人工智能公司员工互动，召集利益相关者组成支持团体，动员基层运动，并塑造公众认知。Encode AI 和 Center for AI Safety 等组织是积极倡导人工智能安全措施的组织，影响了加州的 SB-53 等立法。
-
MATS 开放人工智能安全研究员项目，新增方向和资金支持
MATS Research 现已开放其 2026 年秋季研究员项目的申请。该项目为期 10 周，专注于人工智能对齐、安全和治理。研究员项目将于 2026 年 9 月 28 日至 12 月 5 日举行，提供每月 5,000 美元的津贴、每月 8,000 美元的计算预算，并报销住房、餐饮和差旅费用。本期项目新增了创业与领域建设以及生物安全方向，扩大了培训人工智能安全研究人员和创业者的能力。
-
Astra 研究员项目培养人工智能安全战略家和执行者
Constellation 推出了一个为期五个月的新研究员项目 Astra，将于 2026 年 9 月至 2027 年 2 月运行，旨在培养具有强大战略思维和高度执行力的人工智能安全人才。该项目旨在通过培训人们深入理解该领域、识别关键问题并端到端地实施解决方案，来弥补人工智能安全社区的不足。来自不同人工智能安全组织的导师将指导研究员，如果研究员有现有经验或项目提案，他们也有机会申请 Constellation 的其他项目。