Ajeya Cotra
PulseAugur coverage of Ajeya Cotra — every cluster mentioning Ajeya Cotra across labs, papers, and developer communities, ranked by signal.
-
Redwood Research 分享关于风险和时间线的AI未来主义阅读清单
Redwood Research 汇编了一份人工智能未来主义阅读清单，重点关注人工智能发展的关键动态、生存风险和缓解策略。该清单分为核心和扩展部分，核心阅读内容按四周组织，涵盖时间线、起飞建模和错位AI接管威胁建模等主题。它包括推荐和可选的阅读材料，以及为小组学习设计的讨论问题和练习。
-
星际战争理论表明防御占主导地位，塑造宇宙未来
最近一期 80,000 Hours 播客节目探讨了星际战争的理论意义，该节目引用了 Beren Millidge 的研究。基于已知物理学的分析表明，在星际尺度上，防御将占主导地位，从而根据先到先得的原则实现星系的稳定分布。这一假设情景凸显了人类在未来几个世纪的行动对宇宙生命未来可能具有的长期意义。
-
AI风险评估：事实生成 vs. 证据分析
本文探讨了AI开发中第三方风险评估的各种维度。它区分了事实生成和证据分析，并强调了像红队测试这样的对抗性过程最能从独立的第三方那里获益，以确保真正的努力并避免消极怠工。作者还指出，专业知识、敏感信息访问权限以及开发人员操纵评估分数的可能性是确定外部审计员必要性时需要考虑的关键因素。
-
人工智能专家就自主人工智能的时间表发生争执
两位人工智能专家 Ajeya Cotra 和 Timothy B. Lee 讨论了实现能够独立存在和扩展而无需人类干预的自主人工智能系统的时间表。Cotra 认为这一里程碑可能在 10 年内实现，她引用了人工智能管理物理基础设施和资源的可能性。然而，Lee 则更为怀疑，他认为可能需要 50 年或更长时间，并将其与机器人技术和自动驾驶汽车的进展速度慢于预期进行比较。