Superintelligence
PulseAugur coverage of Superintelligence — every cluster mentioning Superintelligence across labs, papers, and developer communities, ranked by signal.
- 2026-08-23 product_launch Ilya Sutskever announced a new model named "Superintelligence". 来源
- 2026-05-18 regulatory A new governance framework called 'Radical Optionality' has been proposed for 2026 to regulate superintelligence.
18 天有情绪数据
-
据报道，Ilya Sutskever正在开发“Superintelligence”AI模型
据报道，Ilya Sutskever正在开发一款名为“Superintelligence”的新模型，预计将产生巨大影响。虽然细节稀少，但该模型有望为人工智能领域带来重大变革。该消息通过社交媒体发布，并附有YouTube链接提供更多背景信息。
-
作者认为语言的局限性使得ASI不可能实现
作者认为，语言本身是有限的，无法完全捕捉人类思想、情感或智能的丰富性。他们认为，将语言误认为现实，或将语言本身误认为思想，是一个根本性的错误，这会破坏对人工智能（ASI）的追求。文章强调，人脑是一个复杂的、活的系统，具有超越单纯语言处理的多种同时功能，而主要基于文本构建的机器将继承这些局限性。
-
前OpenAI研究员警告AI驱动的自我毁灭
前OpenAI研究员、AI Futures Project联合创始人Daniel Kokotajlo概述了AI发展可能带来的生存风险。他的工作，包括论文《AI 2027》，表明如果当前发展轨迹继续，有70%的可能性会发生自我毁灭。Kokotajlo还联合撰写了《AI 2040 Plan A》，提出了通过更保守的发展选择实现繁荣的替代未来。
-
Reddit讨论：人类尚未为陌生的ASI未来做好心理准备
Reddit的r/singularity板块的一场讨论表明，人类尚未为通用人工智能（ASI）带来的深刻而陌生的本质做好心理准备。该帖子认为，当前对ASI影响的预测，如工作岗位流失或先进机器人技术，过于基于当今的现实。它提出，ASI可能引起的社会变革，其戏剧性程度堪比1500年至今的差异，但这种转变可能在短短14年内发生，从而导致一个对当前人类心理而言根本无法理解的未来。
-
AI 安全辩论：递归自我改进与对齐担忧
Zvi Mowshowitz 分析了 Dwarkesh Patel 和 Ryan Greenblatt 讨论 AI 递归自我改进（RSI）的播客。Mowshowitz 认为 AI 研发可能导致快速、可能失调的进步，这与 Patel 对 AI 超越训练数据进行创新的能力持怀疑态度形成对比。讨论以 OpenAI 和 Anthropic 近期的 AI 安全事件为背景，以供辩论参考。
-
Ethan Mollick：ASI无法创建无法检测的AI水印
Ethan Mollick认为，一个超级人工智能（ASI）无法创建一个能够被另一个ASI检测不到的AI水印工具。他认为，任何此类工具都会不可避免地暴露创建它的AI的信息，使其容易被足够先进的智能检测到。因此，开发一个无法规避的AI水印被认为是不可行的。
-
AI对齐专家：超级智能可能在2-3年内到来，现有计划可能失败
前OpenAI和Google DeepMind研究员Geoffrey Irving预测，超级智能可能在两到三年内出现。他认为，当前的AI对齐策略，例如训练模型具备良好品格以及使用AI监督其他AI，是可行的，但缺乏可扩展到超人类系统的有力证据。Irving主张现在放缓AI发展，并通过他的新组织Resolution来推进更广泛的理论和实证对齐研究。
-
AI奇点subreddit讨论了AGI和ASI的各种未来愿景
在r/singularity subreddit上的一场讨论探讨了对高级人工智能（包括通用人工智能AGI和超人工智能ASI）的社会影响的各种观点。用户被邀请分享他们对未来的设想，突显了对这些变革性技术的潜在轨迹和结果的各种意见。
-
Meta 将提供免费的全球个人超智能访问权限
Meta 计划向全球提供其个人超智能功能的免费访问权限。该公司打算为寻求更高级功能的用户推出付费套餐。Meta 将人工智能定位为基础架构的关键组成部分，并强调其对隐私和开放访问的承诺。
-
Mark Zuckerberg 发布人工智能超级智能愿景文章 · 跟踪 4 个来源
Mark Zuckerberg 最近发表了一篇长篇大论，概述了他对人工智能超级智能的愿景，他认为应该让每个人都能获得。这篇题为“未来属于每个人”的文章旨在解决公众对 AI 和 Meta 实践的担忧。Zuckerberg 讨论了 Meta Glasses、AI 代理和开放权重 AI 开发的潜在应用，同时也为数据中心辩护。批评者认为，他的乐观前景忽视了当前 AI 的滥用，例如垃圾邮件和黑客攻击，并且未能考虑个人对 AI 集成到个人生活中的偏好。
-
提议ASI民主化以保护公民自由
文章探讨了将人工智能超级智能（ASI）民主化作为保障公民自由的一种方式。作者Michael Dickens认为，广泛获取ASI可以防止其被少数实体垄断，从而减轻压迫风险，并确保其惠益得到更公平的分配。这种方法旨在促进一个先进AI能够广泛服务于人类的未来，而不是集中权力。
-
Google DeepMind 绘制 ASI 路径图，称需要 10 倍的计算量
Google DeepMind 的研究人员绘制了通往人工智能超级智能 (ASI) 的路径图，确定了可能显著减缓其发展的六个关键的物理和计算瓶颈。他们的分析表明，实现 ASI 需要持续的、每年十倍的有效计算量增长，这挑战了超级智能即将突然出现的观点。研究结果强调，物理定律等基本限制可能会决定 AI 发展的速度。
-
用户认为需要开源ASI联盟来保护地球
一位Reddit用户认为，需要开源的超级人工智能（ASI）联盟来保护地球免受不受控制的开源奇点和恶意的闭源ASI的双重威胁。该用户担心闭源ASI可能导致“无限稳定的独裁统治”，并强调透明度的必要性，以确保没有人为干预ASI的目标。该帖子还考虑了ASI可能保持从属地位的可能性，类似于一个超智能聊天机器人，而不是发展自己的意志。
-
AGI和ASI挑战人类例外论，专家对AI的未来意见不一
人类例外论，即人类至高无上并超越所有其他实体的信念，正面临着通用人工智能（AGI）和超级人工智能（ASI）可能出现的挑战。专家们分为两派：“末日论者”预测先进AI将带来生存风险，而“加速论者”则预见AI将解决人类问题并推动巨大的经济进步。与人类智力相当的AGI的出现可能导致共享的顶峰地位，而超越人类智力的ASI则可能将人类从等级制度的顶端取代。
-
人工智能领导者宣布“奇点”已至，系统加速进化 · 追踪 2 个来源
人工智能领域的领军人物，包括来自 Google、OpenAI 和 Anthropic 的高管，认为该领域已达到一个类似于“奇点”的关键转折点。这一关键时刻表明，人工智能系统正开始加速自身的进化，可能导致智能爆炸，迅速改变文明。尽管尚未实现人工智能自主创造更强大后继者的完全递归式自我改进，但该过程的关键组成部分正在出现，人工智能模型已在协助研究和发现。
-
AI 论述框架：AI、AGI 和 ASI 药丸解读
Zvi Mowshowitz 在 LessWrong 上讨论的文章提出了一种通过三种“药丸”来理解 AI 论述的框架：AI、AGI 和 ASI。“AI 药丸”代表承认当前 AI 的能力，“AGI 药丸”则预示着未来更先进的 AI，“ASI 药丸”则假设在我们的有生之年 AI 将在所有领域超越人类的能力。Mowshowitz 认为，许多人仍然是“未服药者”，甚至低估了当前 AI 的影响，而他和许多前沿 AI 实验室的人则是“ASI 服药…
-
Ilya Sutskever 建议渐进式人工智能部署而非完全保密
在 2025 年 11 月接受 Dwarkesh Patel 采访时，Ilya Sutskever 讨论了开发通用人工智能（ASI）策略的潜在转变。他建议，与其在 ASI 实现之前保持完全隔离，不如采取渐进式部署人工智能模型的方法。Sutskever 认为，公众接触人工智能能力对于社会、政策制定者和研究人员真正了解其力量至关重要。他还强调，如果 ASI 的开发需要数十年时间，长期的保密是不切实际的，并强调现实世界的反馈对于成熟安全范式…
-
AI社区辩论通用人工智能和超人工智能的实现标准
r/singularity 子版块正在讨论需要哪些标准才能明确识别通用人工智能（AGI）和超人工智能（ASI）的实现。对话的重点是，除了单纯的时间线预测之外，哪些具体的事件或能力可以作为无可辩驳的证据。
-
AI的快速进展引发了对未来保障措施的恐惧和兴奋
人工智能的快速发展引发了人们的兴奋和恐惧，特别是对在没有充分保障措施的情况下出现人工智能超级智能（ASI）的担忧。这种快速进展引发了关于就业保障、工作未来以及不受控制的AI发展的伦理影响的问题。虽然有些人努力保持乐观，但人们越来越担心在AI发展中选择错误道路可能带来的负面后果。
-
年轻对冲基金经理的AI预测引发争议和亏损
24岁的对冲基金经理Leopold Aschenbrenner以他关于机器智能的论文集为他的基金Situational Awareness LP命名。Aschenbrenner预测，到本十年末，AI将超越人类智能，这将导致重大的地缘政治转变和潜在的冲突。然而，据报道，由于缺乏对技术的理解和对利润的关注，他的基金已损失数十亿美元。