AI Safety Summit
PulseAugur coverage of AI Safety Summit — every cluster mentioning AI Safety Summit across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
美国政府将重点从人工智能转向超级智能
美国政府正将其重点从通用“人工智能”转向“超级智能”，这标志着国家安全和国防战略的重新调整。这一转变体现在近期的政策变化和讨论中，朝着对更高级人工智能能力更细致的理解迈进。此次转变旨在更好地应对日益强大的人工智能系统带来的复杂挑战和机遇。
-
AI实验室陷入军备竞赛；欧盟、美国讨论合作 · 追踪到2个来源
OpenAI、Google、Anthropic和Meta等主要AI实验室正进行一场激烈的竞争，常被称为AI军备竞赛。这场竞赛的特点是模型开发速度快，例如Claude 3、Gemini、Llama 3和GPT-4。人们越来越担心潜在风险和国际合作的必要性，正如欧盟、美国等实体以及Sam Altman和Geoffrey Hinton等人物的讨论所强调的那样。
-
英国国王查尔斯三世将召集人工智能领导者，此前有人呼吁放缓发展速度 · 追踪 2 个来源
英国国王查尔斯三世将召集英国领先的人工智能人物举行会议，讨论人工智能技术的快速发展。此次峰会可能在布莱切利公园举行，正值人工智能领域知名研究人员和专家因安全问题呼吁暂停或放缓人工智能发展之际。预计与会的重要人物包括主要人工智能公司的领导者和该领域的有影响力的人物。
-
在美国全球监管推动下，人工智能安全辩论升温 · 跟踪到 1 个来源
人工智能安全辩论正在华盛顿加剧，议员们在人工智能研究人员和行业领袖发出广泛警告后，正在考虑新的监管措施。虽然众议院议长旨在就护栏达成行业共识，但在没有国际（特别是中国）支持的情况下，暂停先进人工智能开发可能会面临挑战。美国的做法与欧盟和中国形成对比，后两者已经对人工智能聊天机器人和事件报告实施了规定。
-
OpenAI 因安全问题暂停 Astra 模型工作；Anthropic 保持进度
OpenAI 宣布因安全担忧暂停部分与其即将推出的 Astra 模型相关的工作，特别指出了潜在的网络安全风险和不匹配问题。这一决定与 Anthropic 形成对比，后者认为其目前的安保措施已足够，无需放缓。这种分歧凸显了两大领先实验室在准备潜在首次公开募股（IPO）时，在人工智能安全方面采取的不同方法，OpenAI 的首席执行官 Sam Altman 引用了在能力超越安全之前采取行动的必要性。
-
Reddit 讨论人工智能安全峰会
Reddit 上正在讨论人工智能安全峰会，用户分享了关于该活动的帖子链接。峰会旨在解决与先进人工智能相关的潜在风险和挑战。
-
Anthropic 警告 AI 风险，美国限制前沿模型
Anthropic 发布了关于人工智能递归自我改进（RSI）的研究结果，警告可能出现人类失控的风险，并建议暂停前沿人工智能的开发。与此同时，白宫已对 Anthropic 的新前沿模型 Fable 5 和 Mythos 5 实施了出口管制，禁止外国访问，并导致 Anthropic 关闭了这些模型。这些事件凸显了人们对人工智能能力日益增长的担忧，特别是开发自主网络攻击系统的能力，并强调了制定强有力监管的紧迫性，这与其他高风险行业的安全标准有相似之处。
-
美国和英国政府发布新的人工智能安全与监管政策
美国白宫于2023年10月30日发布了关于人工智能安全与发展的全面行政命令，该命令具有法律效力。随后，在2023年11月1日至2日举行的人工智能安全峰会上，英国政府发布了《布莱切利宣言》，包括美国和中国在内的人工智能领导者在内的29个国家签署了该宣言。这些政策文件标志着全球人工智能监管迈出了重要一步。