Future of Life Institute
PulseAugur coverage of Future of Life Institute — every cluster mentioning Future of Life Institute across labs, papers, and developer communities, ranked by signal.
- affiliated with Claude 3 70%
- affiliated with Center for AI Safety 70%
- used by European Commission 70%
- affiliated with Stuart Russell 70%
- affiliated with Max Tegmark 70%
- affiliated with Anthony Aguirre 70%
- founded Max Tegmark 70%
- affiliated with EU AI Act 50%
- affiliated with European Commission 50%
- affiliated with European Artificial Intelligence Office 50%
- used by EU AI Act 50%
- affiliated with Enisa 50%
10 天有情绪数据
-
欧盟在国内监管担忧中推动全球人工智能安全规则 · 跟踪1个来源
欧盟正在推动全球人工智能安全规则，技术主管Henna Virkkunen主张达成国际协议，尽管美国表示反对。虽然美国，尤其是在前总统Donald Trump的领导下，对人工智能的生存风险表示怀疑，但欧盟正在倡导成立一个新的国际机构来监测人工智能安全。与此同时，欧盟内部对监管部门应对人工智能进展的步伐日益担忧，一些议员批评欧盟委员会未能跟上人工智能技术的快速发展及其执法能力。
-
AI 研究员就安全与政策挑战高管
OpenAI 和 Google DeepMind 等领先公司的精英 AI 研究员日益影响公司战略和政策，常常在发展速度和安全措施方面与高管发生冲突。这些备受追捧的科学家受到理想主义研究文化的驱动，利用自身影响力推动更大的透明度和监管。然而，这种内部摩擦也导致异议被压制，一些员工因涉嫌处理敏感信息不当而被解雇，为政策制定者制造了复杂的局面。
-
未来生命研究所呼吁限制人工智能自我改进
未来生命研究所（FLI）敦促人工智能公司在安全研究完成之前，立即停止递归自我改进。FLI政策全球总监Mark Brakel表示，尽管现场检查员和国际治理的提议是积极的步骤，但它们是不够的。Brakel强调需要独立的、有约束力的监督和政府干预，以防止“取代竞赛”并确保人工智能造福人类。
-
各国政府在联合国论坛上呼吁就自主武器达成条约
包括尼日利亚和奥地利在内的多个国家的高级政府领导人呼吁启动关于自主武器的条约谈判。这个由未来生命研究所和红十字国际委员会等组织联合发起的、前所未有的论坛强调了国际治理在防止军事AI滥用方面的紧迫性。讨论突出了AI在战争中的风险，例如意外的平民伤亡和冲突升级，并强调生杀大权不应交给机器。
-
人工智能安全运动源于“邪教”，病毒式传播的帖子声称
一个冗长的社交媒体帖子认为，人工智能安全运动在很大程度上是一个源自粉丝小说作家 Eliezer Yudkowsky 的“邪教”。作者声称，Yudkowsky 的影响力，特别是通过他的“理性社区”和“AI Alignment”等术语的普及，深刻地塑造了包括 DeepMind 和 Anthropic 创始人等在内的人工智能发展的讨论和关键人物。尽管人们努力使该运动与其起源保持距离，但该帖子断言，核心思想和个人仍然纠缠不清，Yudkowsk…
-
AI研究人员因安全担忧呼吁放缓AI发展 · 追踪2个来源
包括Geoffrey Hinton和Yoshua Bengio在内的一批知名AI研究人员，呼吁暂停或放缓先进AI系统的开发。他们引用了对OpenAI、Anthropic和Google DeepMind等公司开发的AI快速进展所带来的潜在风险和生存威胁的担忧。这些研究人员认为，目前的安保措施和社会准备不足以应对像GPT-4和Gemini这样日益强大的AI模型所带来的影响。
-
宗教领袖在会议上讨论AI对人类的影响
宗教领袖们聚集在一个AI会议上，讨论技术可能对人类产生的负面影响。讨论集中在伦理考量以及在人工智能不断进步面前人类价值观的未来。来自不同宗教组织和AI伦理团体的关键人物参与了这些对话。
-
AI领导者敦促在鲁莽发展步伐中保持谨慎 · 跟踪2个来源
包括OpenAI、Google DeepMind和Anthropic的知名人士在内的一群杰出AI领导者，呼吁暂停先进AI系统的开发。放慢速度的呼吁是出于对潜在风险和该领域快速、不受控制的进展的担忧。该倡议得到了未来生命研究所等组织的支持，旨在促进对AI开发采取更谨慎和负责任的态度，一些领导者建议需要监管监督。
-
科技股因呼吁放缓人工智能进展而下跌 · 追踪到2个来源
在包括Geoffrey Hinton和Yoshua Bengio在内的知名人工智能研究人员和人士，以及未来生命研究所等组织公开呼吁暂停或放缓人工智能的快速发展后，主要科技股大幅下跌。这些呼吁引发了对不受控制的人工智能发展潜在风险和社会影响的担忧。OpenAI、Google、Microsoft和Anthropic等处于人工智能创新前沿的公司对这些讨论尤为敏感，市场反应也反映了这一点。
-
Anthropic 呼吁放缓人工智能进展并进行外部安全审查
Anthropic 提倡采取更谨慎的人工智能发展方法，建议强大的 AI 系统在广泛部署其功能之前应接受持续的外部审查。该公司提议允许外部专家访问以检查 AI 开发过程并发布他们的发现，从而确保问责制。Anthropic 还呼吁主要 AI 实验室之间的协调努力来管理能力进步的步伐，强调安全检查需要跟上进展的步伐。
-
AI领袖呼吁放缓发展，引发全球股市暴跌 · 追踪 6 个来源
包括Anthropic的Dario Amodei、OpenAI的Sam Altman和SpaceX的Elon Musk在内的主要AI行业领袖公开呼吁放缓AI发展，理由是担心“鲁莽”的进展和潜在的失控。这一呼吁导致全球AI相关股票大幅下跌，纳斯达克和KOSPI等指数出现显著下滑。尽管一些专家对风险的严重性表示怀疑，但投资者已开始考虑潜在的放缓，这可能会影响对AI基础设施的大量投资。相反，唐纳德·特朗普等人物则拒绝了这些呼吁，强调保持AI…
-
AI领袖就生存风险发出新警告并呼吁加强保障措施 · 跟踪2个来源
人工智能行业的领军人物，包括知名研究人员和高管，正在重新发出关于高级人工智能可能带来的生存风险的警告。这些担忧呼应了此前的警报，强调了建立健全治理框架和保障措施的紧迫需求，以确保人工智能发展始终符合人类安全和控制。专家呼吁人工智能创新领域的公司提高透明度和责任感。
-
AI巨头OpenAI、Google、Anthropic、Meta同意需要放缓发展
包括OpenAI、Google、Anthropic和Meta在内的领先人工智能公司已公开承认需要暂停或放缓先进AI系统的发展。这一共识来自于AI领域的知名人士（如Sam Altman、Demis Hassabis和Dario Amodei）的讨论，他们表达了对快速AI发展相关潜在风险的担忧。Future of Life Institute等组织放大了放缓的呼吁，凸显了对AI未来发展轨迹的共同担忧。
-
AI 领袖呼吁暂停先进模型开发
包括 Anthropic 和 OpenAI 的知名人工智能研究人员和行业领袖在内的多人签署了一封公开信，呼吁暂时停止开发比 GPT-4 更强大的人工智能模型。这封由 Future of Life Institute 发起的信函强调了对先进人工智能潜在风险的担忧，例如社会颠覆和人类失控。签署者包括 Geoffrey Hinton、Yoshua Bengio、Elon Musk 和 Demis Hassabis 等知名人士，这表明人工智能…
-
AI领袖在安全担忧中呼吁放缓发展速度 · 追踪2个来源
AI行业的几位知名人士，包括OpenAI、Anthropic和Google DeepMind的领导者，已发出呼吁，要求放缓AI发展速度。这一呼吁源于对快速发展的AI技术潜在安全风险日益增长的担忧。Geoffrey Hinton和Yoshua Bengio等知名研究人员，以及Future of Life Institute等组织，都在支持这项倡议，强调需要谨慎和伦理考量来跟上技术进步的步伐。
-
人工智能研究人员警告超级智能的生存威胁 · 已追踪 2 个来源
包括 Geoffrey Hinton 和 Yoshua Bengio 在内的许多人工智能研究人员对通用人工智能（AGI）可能构成生存威胁表示担忧。这些专家，其中许多人曾为 OpenAI、Google DeepMind 和 Anthropic 等领先的人工智能实验室做出贡献，他们强调了与超级智能和对齐问题相关的风险。他们担心的核心在于，如果先进的人工智能系统没有得到妥善控制并与人类价值观保持一致，就可能导致全球灾难性风险。
-
AI 研究人员公开辩论高级 AI 的生存风险
顶尖 AI 研究人员正在公开辩论高级 AI 导致人类灭绝的重大风险，一些人估计的概率高达 20% 或更高。这场此前仅限于小圈子讨论的辩论，在一位研究员辞职并获得 Anthropic 的 Alignment Science 主管公开支持后，引起了广泛关注。担忧的范围从 AI 能够发动灾难性的网络攻击或生物武器，到超级智能系统逃脱人类控制，尤其是在 AI 能力飞速发展之际。
-
人工智能巨头因高级模型的生存风险面临审查
OpenAI、Google、Microsoft 和 Anthropic 等领先的人工智能公司正因其快速发展的模型（如 GPT-4、Claude 3 和 Gemini）的潜在风险而面临审查。人工智能领域的知名人士，包括 Geoffrey Hinton 和 Yoshua Bengio，以及 Future of Life Institute 等组织，都在对这些公司是否将进步置于安全之上表示担忧。争论的焦点在于这些强大的人工智能系统可能构成生…
-
研究人员驳斥未来生命研究所关于人工智能安全突破的说法
法国科技巨头 Dassault Systèmes 的研究员 Sébastien Bubeck 公开驳斥了人工智能安全组织未来生命研究所 (FLI) 的说法。Bubeck 特别回应了 FLI 的一篇帖子，该帖子声称在人工智能安全方面取得了“重大突破”，但他表示该说法被歪曲了。他澄清说，所讨论的研究并非人工智能安全的突破，而是展示了人工智能在特定领域的 [能力]。
-
欧盟人工智能法案要求顶尖人工智能实验室提供安全细节
欧洲委员会已开始行使其在《欧盟人工智能法案》下的执法权，要求领先的人工智能开发商提供有关网络安全、安全和版权合规性的详细信息。此举是在近期多家人工智能实验室发生备受瞩目的安全事件之后采取的。委员会正在调查这些实验室如何防止模型被盗、管理外部评估以及监控公众使用情况，不合规者可能面临罚款。此外，欧盟正在考虑未经发布的内部模型是否也可能受到该法案的安全法规约束，特别是如果它们被整合到同一公司内的人工智能系统中。