Daniel Kokotajlo
PulseAugur coverage of Daniel Kokotajlo — every cluster mentioning Daniel Kokotajlo across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
AI 2040 'Plan A' 报告预测 2026 年第一季度时间线
一份关于 2026 年第一季度时间线的更新报告已发布，详细介绍了人工智能能力的预期进展。该报告由 Daniel Kokotajlo, Scott Alexander 和 Thomas O Larsen 等人撰写，重点关注 AI 2040 项目下的 'Plan A' 计划。报告还引用了同一批研究人员发布的 2027 年人工智能报告。
-
AI Futures Project 推出“Plan A”以应对人工智能发展
由人工智能预测者 Daniel Kokotajlo 和 Ryan Greenblatt 制定的新计划“Plan A”勾勒了应对人工智能未来的积极愿景。该计划预测至 2040 年，提议与中国建立联合监管机制，并强调监测全球计算资源。该计划并非背书，而是作为未来政策讨论的基准，旨在引导人工智能朝着有益的方向发展，避免失控的智能爆炸或技术寡头统治等潜在危险。
-
80,000 Hours 敦促 AI 专家利用影响力推动负责任的开发
80,000 Hours 组织建议拥有相关技能和影响力的人士考虑从事 AI 开发或治理方面的职业。他们强调，目前在 OpenAI、Anthropic 和 Google DeepMind 等前沿 AI 公司工作的员工拥有独特的专业知识，可以塑造 AI 的未来。该组织还指出，关于 AI 的公众讨论仍在形成中，这为处于有影响力地位的人们提供了高杠杆的机会，可以影响 AI 的采用和治理方式。
-
人工智能发展的迭代性可能阻止超级智能的快速接管
一篇LessWrong帖子认为，由于人工智能发展的迭代性质，人们担心的超级智能AI迅速超越人类的情景不太可能发生。作者提出，持续的部署和定期的评估使得避免连续AI模型之间出现巨大的能力差距在技术上是可行的。这种迭代方法，即当前已对齐的AI监督其后继者，可以防止快速失对齐接管情景，将主要担忧转向渐进式权力剥夺的风险。
-
Tegmark 敦促 AI 研究人员加强道德指南针
Max 和 Meia Tegmark 发布了一份面向 AI 研究人员的指南，敦促他们在道德原则被激活和加强。该指南强调了 AI 研究人员对未来的深远影响，以及在复杂的道德困境中进行道德决策的关键需求。它提出了一个包含六个问题的清单，以帮助研究人员确定他们的个人“红线”，记录下来，并抵制可能侵蚀道德承诺的道德脱离机制。
-
教皇发布人工智能通谕，与Anthropic合作
教皇利奥十四世发布了题为《人类的宏伟》的通谕，探讨了人工智能对社会的冲击，并警告其不受约束的使用。该文件与Anthropic合作制定，强调人工智能的应用不仅仅是技术性的，更触及基本人权和自由。尽管该通谕具有影响力，但一些批评者认为它未能充分解决通用人工智能（AGI）或超智能的可能性，而是侧重于当前人工智能技术的直接人类影响。
-
Astra 研究员项目培养人工智能安全战略家和执行者
Constellation 推出了一个为期五个月的新研究员项目 Astra，将于 2026 年 9 月至 2027 年 2 月运行，旨在培养具有强大战略思维和高度执行力的人工智能安全人才。该项目旨在通过培训人们深入理解该领域、识别关键问题并端到端地实施解决方案，来弥补人工智能安全社区的不足。来自不同人工智能安全组织的导师将指导研究员，如果研究员有现有经验或项目提案，他们也有机会申请 Constellation 的其他项目。