80,000 Hours
PulseAugur coverage of 80,000 Hours — every cluster mentioning 80,000 Hours across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
人工智能安全资金激增，但资助方能力滞后 · 跟踪到1个来源
人工智能安全领域正经历大量资金涌入，Coefficient Giving 等资助机构处于领先地位。仅在 2025 年，Coefficient 就提供了超过 4 亿美元，并预计在 2026 年支出超过 10 亿美元。随着 Anthropic 和 OpenAI 等主要人工智能公司可能每年向慈善事业捐赠数十亿美元，其中一部分很可能用于人工智能安全项目，预计这一增长将加速。然而，资助方能力有限成为一个关键瓶颈，凸显了需要有技能的人员来管理和指…
-
生物安全工程就业市场似乎饱和，学生质疑未来资金
一名工程本科生正在质疑技术生物安全领域的饱和度，他指出在领英等平台上，入门级职位稀缺，申请人与职位的比例很高。尽管生物安全是有效利他主义社区中的一个重要领域，并预计未来资金会增加，但目前的就业市场似乎有限。该学生试图了解这些观察是否准确，以及在机会有限和未来资金增长现实的情况下，最佳的贡献方式是什么。
-
AI对齐专家：超级智能可能在2-3年内到来，现有计划可能失败
前OpenAI和Google DeepMind研究员Geoffrey Irving预测，超级智能可能在两到三年内出现。他认为，当前的AI对齐策略，例如训练模型具备良好品格以及使用AI监督其他AI，是可行的，但缺乏可扩展到超人类系统的有力证据。Irving主张现在放缓AI发展，并通过他的新组织Resolution来推进更广泛的理论和实证对齐研究。
-
专家批评通用人工智能（AGI）时间线预测，指出14个常见错误
牛津大学高级研究员 Toby Ord 认为，关于通用人工智能（AGI）时间线的普遍假设存在缺陷。他指出了预测 AGI 的14个常见错误，包括将人工智能研究误解为简单的爬山法或编程，以及过分强调当前的基准。Ord 认为，尽管递归自我改进（RSI）是一个重要的担忧，但它可能不会像一些人预测的那样导致即时的智能爆炸，AGI 可能还需要十多年才能实现。他主张采取积极措施，例如暂停超级智能研究和签订国际条约来管理潜在风险。
-
AI 安全专家面临倦怠，新书提供应对策略
ClearerThinking.org 的创始人 Spencer Greenberg 讨论了从事 AI 安全和生存风险等高风险问题的人们所面临的心理挑战。一项对约 80 人的调查显示，普遍存在难以停止工作、冒名顶替综合症和倦怠等问题，超过一半的人报告称这些挑战对其工作效率产生了负面影响。Greenberg 认为，长期的恐惧和警惕不利于解决这些问题的长期工作，因此他提倡使用基于证据的心理工具来维持动力和福祉。
-
专家指出，AI 职业建议对青少年仍然难以捉摸
Jasmine Q Sun 和 80,000 Hours 组织指出，对于有兴趣构建 AI 的青少年，缺乏具体的职业建议。这个问题源于 AI 领域的快速发展，使得提供具体、长期的指导变得困难。这给寻求进入 AI 行业的年轻人带来了挑战。
-
AI安全内容创作者被建议专注于可行的影响力
本文为AI安全内容创作者提供了如何通过引导观众采取具体行动来最大化其影响力的指导，以降低生存风险。文章建议创作者应旨在影响观众的信念和态度，最终促使他们采取诸如转行从事AI安全领域、捐款或参与政治活动等行为。文章概述了两种主要的观众类型——能够全职从事AI安全职业的人和能够兼职贡献的人——以及三种行动呼吁的类别：告知观众、直接影响请求和鼓励转行。
-
80,000 Hours 将人工智能安全岗位置于气候、健康和福利岗位之上
80,000 Hours 的招聘板块正将其重点转向优先考虑与变革性人工智能 (TAI) 和人工智能安全相关的岗位。由于人工智能的快速发展，该组织认为 TAI 比全球健康、动物福利或气候变化带来更重大的生存风险和机遇。虽然他们将继续列出其他领域的入门级和初级职位，但将不再发布非 TAI 领域的的中高级职位，因为人才现在被认为在人工智能相关工作中更具影响力。
-
专家称，中等强国必须联合起来构建前沿人工智能，否则就有被削弱的风险
卡内基国际和平基金会研究员 Anton Leicht 认为，在后通用人工智能（AGI）世界中，没有自身前沿人工智能能力的国家将面临经济和政治被削弱的风险。他提议，中等强国可以四年内集体投资约 5000 亿美元来开发自己的前沿模型，尽管他也承认由于财务和政治障碍，这不太可能实现。作为备选方案，Leicht 建议专注于人工智能供应链中的稀缺资源，例如光刻机和独家训练数据，或者下游生产和现实世界应用，而这些领域正是欧洲、日本和韩国等国家擅长的。
-
人工智能安全人才瓶颈引发申请者不满
一场关于人工智能安全人才瓶颈的专题讨论揭示了与会者对该领域选择性招聘做法的不满，尽管声称有迫切的人才需求。与会者，包括职业中期专业人士和大学生，在被人工智能安全奖学金和进修项目拒绝后表示失望。讨论凸显了对人才的感知需求与实际申请结果之间的脱节，一些与会者认为关于展示价值和真理对齐的建议并未解决过度选择性的核心问题。
-
AI 安全领域面临人才短缺，招聘选择性强且生态系统有待梳理
正如近期 BlueDot Impact 小组讨论所强调的，AI 安全领域正经历显著的人才和组织瓶颈。尽管招聘人员声称人才短缺，但许多申请者却面临高度选择性的流程，导致挫败感。指导和真诚的联系似乎是进入该领域成功的关键因素，比仅仅展示能力更为重要。另外，对 AI 安全生态系统进行的研究梳理了各种组织，包括专注于 AI 精神病的 Human Line Project 和帮助专业人士转入 AI 安全职业的 Impact Academy。
-
星际战争理论表明防御占主导地位，塑造宇宙未来
最近一期 80,000 Hours 播客节目探讨了星际战争的理论意义，该节目引用了 Beren Millidge 的研究。基于已知物理学的分析表明，在星际尺度上，防御将占主导地位，从而根据先到先得的原则实现星系的稳定分布。这一假设情景凸显了人类在未来几个世纪的行动对宇宙生命未来可能具有的长期意义。
-
AI安全人才应分散，而非仅集中于前沿实验室
一篇论文认为，AI安全专业知识应融入所有部署AI的组织，而不应仅仅集中在前沿AI实验室。作者认为，安全是系统与其部署环境之间的一种动态关系，因此不可能在创造时“制造”安全。文章将AI安全与网络安全以及航空和金融等其他安全关键行业进行类比，主张采用分散式AI安全人才方法来应对当前的危害和未来的风险。
-
SemiAnalysis 嘲笑 80,000 Hours 职业咨询名称
SemiAnalysis 批评职业咨询公司 80,000 Hours，认为其名称具有误导性，不适合那些以高影响力为目标的人。该公司建议，要想取得重大影响力，一个人需要工作超过 80,000 小时，这意味着需要更改名称以反映更高的投入。
-
工程师权衡在被忽视领域的研究与向EA事业捐款
一名机电工程专业的毕业研究生正在权衡两条最大化其影响力的职业道路。一种选择是在非有效利他主义（EA）主要优先事项之外的被忽视的科学领域进行研究，例如先进制造或密码学。另一种选择是从事高薪工作，例如机器学习工程师，并将大部分收入捐赠给资助EA核心领域的研究，例如生物安全或AI政策。
-
新的AI安全组织成立，研究AI锁定问题
某个人成立了一个新的AI安全研究组织，专注于一个鲜为人知的AI锁定问题。该组织旨在对秘密忠诚的AI系统进行实证研究，借鉴深度学习科学的见解来开发防御措施。创始人强调了面对面协作以及寻找特定研究领域专家以加速进展和完善想法的重要性。
-
80,000 Hours 为求职申请人提供脱颖而出的技巧
80,000 Hours 发布了针对求职申请人的新指南，重点介绍如何在竞争激烈的申请过程中脱颖而出。建议包括培养“微经验”和利用人脉使技能对招聘经理更明显。此外，该组织还深入介绍了如何应对面试阶段，为候选人准备他们推荐的组织中常见的非常规面试策略和工作测试。
-
Google DeepMind 的 AGI 安全主管对灾难性失调表示怀疑
Google DeepMind 的 AGI 安全与对齐主管 Rohin Shah 认为，灾难性 AI 失调是可能发生的，但并非默认就会发生。他认为，当前专注于短期奖励的 AI 训练方法，并不会自然地导向实现“接管世界”所需的长远目标。Shah 建议，许多潜在的对齐问题将提前显现，从而可以进行迭代式解决，并且研究重点应从部署前评估转向实际研究和 AI 治理基础设施。
-
80,000 Hours 招聘营销专员，通过数字广告扩大影响力
80,000 Hours 是一个专注于引导个人投身于应对全球挑战的职业的非营利组织，现招聘一名营销专员以扩大其影响力。该职位涉及管理每年约 200 万美元的数字广告预算，职责包括广告购买、创意制作、受众研究和效果分析。此职位对于扩大组织的社会影响力以及更有效地吸引目标受众至关重要。
-
80,000 Hours 在 AI 快速发展之际更新职业建议
80,000 Hours 的联合创始人 Benjamin Todd 由于 AI 的快速发展正在更新职业建议。他强调 AI 可能在几年内实现其自身研究的自动化，从而可能导致迅速的社会变革和风险增加。Todd 强调，即使没有技术专长，个人仍然可以通过仔细考虑自己的职业道路和技能来积极影响这一转型。