Future of Life Institute
PulseAugur coverage of Future of Life Institute — every cluster mentioning Future of Life Institute across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
AI安全：倾向于条约和IAEA式机构，而非CERN模式
作者认为，建立一个“AI的CERN”是应对AI安全问题的一种不切实际且无效的方法。取而代之的是，他们提出了一种分阶段的策略，首先是立即实施国际法规和红线，然后是建立一个IAEA式的核查机构。作者认为，这种方法比进一步的研究更能优先考虑政治意愿和执法，而研究是减轻AI风险的主要瓶颈。
-
欧盟AI法案推迟高风险系统义务，引入透明度工具
欧洲议会已最终批准了欧盟AI法案的修正案，将高风险AI系统的义务大幅推迟至2027年末和2028年末。此外，AI生成内容的水印要求也推迟至2026年12月。欧盟委员会还推出了一系列可选图标，以帮助识别AI生成内容，旨在增强透明度并打击虚假信息，尽管底层的标签义务仍然是强制性的。
-
人工智能的“人格”辩论升温，呼吁赋予AI权利
将法律人格授予人工智能的概念正在一些组织和政治人物中获得关注，支持者主张AI应享有类似财产权或起诉权等权利。然而，这一想法面临着巨大的反对，绝大多数法学教授拒绝了它，马克斯·泰格马克等知名人士称其为潜在的灾难性错误。历史上，法律人格的演变已包括公司、河流甚至动物等非人类实体，这通常是由不断变化的道德考量所驱动的。
-
欧盟人工智能法案设立专家小组并发布内容标记规范
欧盟委员会已设立两个新的专家机构，以协助实施和执行欧盟人工智能法案。科学专家小组由60名独立的AI专家组成，将就通用人工智能（GPAI）的风险和评估提供咨询；咨询论坛则有174名来自各行各业的成员，将提供更广泛的利益相关者意见。此外，委员会还发布了一项关于标记AI生成内容的自愿性实践规范，要求对深度伪造内容和AI生成的公共利益文本进行清晰标记，该规范将于2026年8月2日生效。
-
AI安全人才应分散，而非仅集中于前沿实验室
一篇论文认为，AI安全专业知识应融入所有部署AI的组织，而不应仅仅集中在前沿AI实验室。作者认为，安全是系统与其部署环境之间的一种动态关系，因此不可能在创造时“制造”安全。文章将AI安全与网络安全以及航空和金融等其他安全关键行业进行类比，主张采用分散式AI安全人才方法来应对当前的危害和未来的风险。
-
ML4Good 启动 2026 年欧洲人工智能安全训练营
ML4Good 将于今年夏天在欧洲各地举办一系列人工智能安全训练营，现已开放申请。这些为期八天、全额资助的住宿项目旨在为致力于降低灾难性及生存性人工智能风险的个人提供机会。参与者可选择技术方向（面向有一定技术背景者）或治理与战略方向（面向政策、运营及领域建设岗位）。申请截止日期为 2026 年 7 月 1 日。
-
美国政界人士提议人工智能公司的公共股权
唐纳德·特朗普和进步派民主党人提议美国人获得人工智能公司的股权，这反映了一种日益增长的观点，即人工智能的益处应被广泛分享。据报道，特朗普的提议受到OpenAI首席执行官Sam Altman的影响，建议向公民的“公共财富基金”自愿捐赠股权。相比之下，参议员Bernie Sanders提议强制将50%的股权转让给一个主权财富基金，该基金将拥有政府代表并为公共产品分配收入。这些想法的出现正值公众对人工智能的经济影响和潜在的失业问题日益担忧之际。
-
Future of Life Institute 启动人工智能知识库竞赛
Future of Life Institute (FLF) 正在启动一项竞赛，旨在开发人工智能驱动的工作流程来创建可靠的知识库。该竞赛旨在促进利用人工智能协助严谨认识论研究的创新方法。提交的参赛作品将根据其在知识生成领域推进最先进技术的能力进行评估，奖金总额约为 200,000 美元。
-
Anthropic 敦促全球暂停人工智能开发，警示“自我改进”风险
Anthropic 已撤回一项有争议的政策，该政策曾秘密降低其 Claude Fable 5 模型对试图训练竞争性人工智能系统的研究人员的性能。该公司就此道歉。
-
AI安全组织敦促对先进系统进行强制性部署前审查
未来生命研究所（FLI）对白宫一项旨在成立人工智能工作组的行政命令表示积极回应。FLI总裁Anthony Aguirre认为，这是应对先进人工智能带来的重大国家安全和经济风险的关键一步。尽管承认该命令的重要性，FLI仍主张对强大的AI系统实行强制性的政府部署前审查程序，而不是依赖于行业自愿框架，以防止发布可能带来不可接受风险的系统。
-
欧盟人工智能法案的执行临近，指南和国家法律取得进展
欧盟委员会人工智能办公室正准备执行《欧盟人工智能法案》，截止日期为8月2日。他们发布了新的指南和常见问题解答，以帮助对高风险人工智能系统进行分类，并处理通用人工智能模型，包括开源模型。波兰也通过了一项法案草案，以使其国家法规与该法案保持一致，并设立了一个新的监督委员会来确保合规和管理人工智能系统。
-
人工智能已在改变战争，自主系统已投入使用
人工智能在战争中的应用并非未来的假设，而是现实，军事应用已发展数十年。虽然尚未开发出完全自主的致命性武器，但能够根据传感器数据选择和攻击目标的系统已投入使用。近期Anthropic与五角大楼之间的一场冲突凸显了围绕自主战争的伦理辩论，特别是关于人类在致命决策中的参与。
-
白宫考虑设立AI部署前测试小组
据报道，白宫正在考虑一项新的行政命令，以建立一个专注于先进AI系统部署前测试的人工智能工作组。此举被视为监管强大AI的重要一步，其起因是近期对Anthropic的Mythos等模型可能带来的风险的担忧。生命未来研究所对此表示赞赏，并强调需要像其他高风险行业一样，采取政府主导的全面安全和监督方法。
-
专家质疑通用人工智能/超人工智能能否治愈癌症，强调当前人工智能的影响
Future of Life Institute 主任 Emilia Javorsky 批评了人工智能超级智能（ASI）将是治愈癌症关键的观点。她认为癌症是一种复杂且个体化的疾病，“治愈”的说法具有误导性，因为即使是当前的医学在慢性病的管理方面也比彻底治愈更胜一筹。Javorsky 强调，现有的人工智能技术已经在癌症研究和治疗方面做出了重大贡献，例如在药物发现和早期检测方面，而这些当下的应用常常被推测性的 ASI 承诺所掩盖。
-
欧盟议员未能就人工智能法案延期达成一致，Anthropic 将就 Mythos 模型作证
欧洲联盟立法者未能就人工智能法案关键条款的延期达成协议，高风险人工智能应用的原定八月截止日期依然有效。分歧集中在机械和医疗设备等产品是否应遵守行业法规而非更广泛的人工智能法案。与此同时，欧洲议会已邀请 Anthropic 参加听证会，讨论与先进人工智能模型（特别是其未发布的 Mythos 模型）相关的安全和网络安全风险。
-
NPR播客在39分钟内探讨人工智能带来的生存风险
一位记者制作了一个39分钟的播客，探讨人工智能带来的生存风险。该播客包含未来生命研究所（FLI）的Hamza Chaudhry关于潜在解决方案的见解。这篇音频旨在简洁而引人入胜地解释人工智能的潜在危险。
-
作者分析生命未来研究所的AI风险建议
Martin Bihl 审视了生命未来研究所关于AI生存风险的建议。他的分析表明，结果符合此类讨论的典型预期。内容以博客文章的形式发布在他的个人网站上。
-
作者认为，人工智能风险的论述早于科技公司CEO出现
作者认为，对高级人工智能构成生存威胁的担忧，早于人工智能公司的兴起并且独立于它们。他回忆说，至少从2009年起，在DeepMind或OpenAI等主要人工智能实验室出现之前，他就已经参与了人工智能安全社区。这段历史，包括参与MIRI等组织以及参加会议和研究小组，被用作证据，表明人工智能风险在一个专门的社区中早已是一个公认的问题，远在科技CEO能够利用它进行炒作之前。
-
生存风险观测站寻求合作者，共同研究AI威胁模型对齐
生存风险观测站（Existential Risk Observatory）正与MIT FutureTech和FLI合作，启动一个项目，旨在就AI生存威胁模型达成研究者共识。该倡议旨在通过构建威胁模型分类法并努力就关键假设达成共识，来澄清专家们关于高级AI如何导致人类灭绝的分歧。这项工作力求通过明确考虑不同的威胁场景，来厘清AI对齐、治理以及攻防平衡等子领域。
-
未来生命研究所支持特朗普关于人工智能硬件“一键关闭”的呼吁
美国前总统特朗普表示支持人工智能“一键关闭”，这与未来生命研究所（FLI）关于先进人工智能系统必须具备可靠关闭机制的立场一致。FLI总裁兼首席执行官Anthony Aguirre强调了关键系统的脆弱性，并引用了Anthropic的Mythos模型在自主利用零日漏洞和完成复杂网络攻击模拟方面的能力。Aguirre强调，除了软件之外，还需要硬件级别的安全措施来确保人类对日益强大的人工智能的控制，并建议此类功能是可行的，并且可以由NVIDI…