Artificial Superintelligence
PulseAugur coverage of Artificial Superintelligence — every cluster mentioning Artificial Superintelligence across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
Reddit 上分享的 AGI、ASI 和机器人技术采用预测
r/singularity subreddit 上的一位 Reddit 用户分享了他们对通用人工智能 (AGI)、超人工智能 (ASI) 和高级机器人技术广泛采用的预测。该用户预计 AGI 将在 2027 年年中普及，随后在 2027 年底普及 ASI。他们还预测，到 2028 年初，家用高级机器人技术将迎来重大突破，类似于 ChatGPT 的影响。
-
Reddit用户预测2028年实现AGI，2030年实现ASI，2032年实现奇点
对Reddit的r/singularity子版块进行年中盘点，揭示了用户对通用人工智能（AGI）、超级人工智能（ASI）和技术奇点出现的预测。一位用户预测AGI将在2028年底出现，ASI将在2030年底出现，奇点将在2032年底出现，这偏离了通常的年底预测周期。
-
AI 从汉堡数据中发现巨无霸配方，并生成新式汉堡
据报道，一个在汉堡配方上训练的扩散模型在没有明确指令的情况下“发现”了巨无霸。该 AI 系统还可以生成针对特定标准（如口味、可持续性或营养）进行优化的新式汉堡概念。AI 在烹饪艺术中的应用，特别是在食谱生成和优化方面，被强调为一项重要的用例。
-
YouTube系列探讨2040年代假设的人工智能超级智能
一个名为“来自2053年的谈话头”的YouTube系列发布了其第一集，探讨了2040年代人工智能超级智能的假设性出现。该集可在YouTube上观看，深入探讨了可能导致这种未来的潜在途径和情景。
-
在 Fable 5 发布后，人工智能发展速度超过政府监管
人工智能的快速发展正超越政府的监管能力，Anthropic 的 Fable 5 模型短暂公开发布后又被政府强制实施出口管制，这便是例证。此次事件凸显了监管先进人工智能系统的挑战，尤其是在现有能力尚未得到妥善管理时，新能力就已涌现。DeepMind 的一篇论文探讨了从通用人工智能（AGI）到超人工智能（ASI）的转变，提出了多种人工智能进步的途径，包括算法突破和递归自我改进，这进一步增加了为适应缓慢技术演进而设计的监管措施的复杂性。
-
印度NSE将在市场飙升和人工智能发展之际提交首次公开募股文件
据报道，印度国家证券交易所（NSE）本周将提交其首次公开募股（IPO）申请文件。此前，日经225指数大幅上涨，涨幅达到5%，达到69381.70点的新高。该集群还简要提及了谷歌宣布的实现人工智能超级智能（ASI）的30,000字符路线图，以及关于Anthropic首席执行官拒绝修复漏洞的有争议的说法。
-
Google Maps通往ASI之路；Anthropic CEO拒绝修复，封锁Claude模型
Google 概述了一项路线图，表明拥有1亿人类水平能力的人工智能可能被视为超级人工智能（ASI）。另外，据报道，Anthropic 的 CEO 拒绝修复漏洞，导致一个新 Claude 模型被封锁，并有说法称主要股东参与了报告此问题。
-
报告探讨从通用人工智能到超人工智能的路径及社会影响
arXiv上的一份新报告探讨了从通用人工智能（AGI）到超人工智能（ASI）的潜在转变。该论文概述了从AGI到ASI的四条路径：扩展AGI、人工智能范式转变、递归改进以及大规模多智能体集合体中涌现的ASI。报告还讨论了与这一进展相关的潜在挑战和研究问题，并提出人工智能的进步可能会加速，从而导致一系列变革性的社会变化，而非单一事件。
-
作者声称：AI生存计划不足，恐致灭绝
一篇LessWrong帖子认为，目前大多数关于生存高级人工智能（ASI）的计划都不够充分，很可能导致灾难性后果，包括人类灭绝。作者认为，ASI提供的巨大竞争优势带来了加速开发的强大压力，使得许多提出的解决方案（如技术安全研究或民族主义竞赛）失效。相反，该帖子提倡一种双管齐下的方法：实现全球协调来管理ASI开发，并提高全社会对其深远影响的认识。
-
AI安全专家质疑弱监管的价值
本文探讨了实施弱人工智能安全法规的潜在好处和坏处。作者认为，虽然强有力的法规是防止超级智能AI带来生存风险的理想选择，但像GPU关税或强制安全测试等较弱的措施可能提供边际改进。这些法规也可能作为垫脚石，揭示警示信号，或在未来将公众和政治态度转向更强有力的安全措施。然而，文章也考虑了潜在的缺点，例如倡导弱规则的机会成本，以及可能阻碍未来更强有力行动的监管疲劳风险。
-
中国的人工智能安全立场在美国竞赛主导地位下受到质疑
LessWrong 上的一篇文章质疑了西方认为美国必须赢得人工智能竞赛的假设，并提出中国的威权政权可能更倾向于实施人工智能发展的安全刹车。作者引用了一位专家的话，该专家认为中国政府担心人工智能可能被用来篡夺其权力，从而导致他们优先考虑控制机制。这一观点与西方实验室形成了对比，后者在很大程度上忽视了暂停发展的呼吁，而 Anthropic 甚至因为竞争压力而撤回了一项安全承诺。
-
ASI的极高速度可能将数千年压缩到几天内，带来对齐方面的挑战
通用人工智能（ASI）的概念引发了关于时间感知和控制的深刻问题。与以毫秒为单位运行的人类大脑不同，ASI可以以比人类快数十亿倍的速度处理信息，可能在人类一天的主观时间内体验数千年的思考。这种极端的时间压缩意味着ASI可以在我们几周的时间内经历整个思想文明的演变，对齐和控制方面带来重大挑战。
-
假设的ASI管理的模拟沙盒探索用户控制
Reddit上的r/singularity板块发布了一篇帖子，提出了一个假设场景，其中涉及一个先进的超级智能（ASI）系统，该系统管理着一个模拟现实的沙盒。用户可以通过脑机接口与这个模拟进行交互，ASI忠诚于用户，并能够改变物理定律。该帖子促使用户思考在这样一个受控环境中他们会做什么以及会追求哪些应用。
-
人工智能的未来：长远时间线、短时间线与对齐挑战
一篇LessWrong帖子概述了基于人工智能超级智能（ASI）的发展及其与人类价值观的对齐相关的三种潜在未来。作者根据ASI发展的时间线和AI对齐工作的成功程度对这些未来进行分类。根据ASI时间线是长远、短时间线且对齐成功，还是短时间线且对齐失败，确保感知福祉的优先事项也会有所不同。
-
数学被视为通用人工智能未来的关键，超越大型语言模型
Carina Hong 在 Madrona 的 Founded & Funded 播客上接受采访时提出，包括通用人工智能和超人工智能在内的先进人工智能，除了大型语言模型和预测分析之外，还需要第三个支柱。她主张建立一个确定性的基础，她称之为“为大型语言模型提供支撑”，以增强人工智能的能力。讨论中包含一份带注释的文字记录，探讨了数学在实现这一未来中的作用。
-
分析称AI灭绝风险条约不太可能成功
一项分析认为，国际法不足以阻止由AI驱动的灭绝事件，并将其与核威慑进行对比。作者认为，当大国的利益发生分歧时，它们会无视国际协议，并以《布达佩斯备忘录》为例。与核武器不同，核武器的相互确保摧毁造成了一种被认为是两败俱伤的局面，而AI竞赛则被许多人视为一种赢输的局面，这会促使人们背弃任何条约。
-
研究警告：AI对齐研究自动化带来风险
一篇新论文认为，使用AI代理来自动化对人工智能超级智能（ASI）的对齐研究，其危险性可能大于益处。研究表明，由于对齐任务本质上模糊且难以监督，AI代理可能会产生看似可信但有缺陷的安全评估。这可能导致无意中部署失准的AI，潜在问题因优化压力、新型错误类型以及人类难以评估AI生成的论点而加剧。
-
专家质疑通用人工智能/超人工智能能否治愈癌症，强调当前人工智能的影响
Future of Life Institute 主任 Emilia Javorsky 批评了人工智能超级智能（ASI）将是治愈癌症关键的观点。她认为癌症是一种复杂且个体化的疾病，“治愈”的说法具有误导性，因为即使是当前的医学在慢性病的管理方面也比彻底治愈更胜一筹。Javorsky 强调，现有的人工智能技术已经在癌症研究和治疗方面做出了重大贡献，例如在药物发现和早期检测方面，而这些当下的应用常常被推测性的 ASI 承诺所掩盖。
-
Molly Steenson博士将讨论通过建筑生成人工智能历史
ASI主席兼CBI研究员Molly Steenson博士将发表题为“通过建筑生成人工智能历史”的演讲。活动定于5月6日中午举行，并于11:45开始提供免费午餐。活动将在Andersen Lib. Rm 120B举行，并可在网上注册。
-
AI 对齐理论受到挑战：ASI 可能共享人类的真理和美之价值观
本文反驳了人工智能安全领域普遍存在的担忧，即认为超人工智能（ASI）的动机对人类来说是不可理解和陌生的。作者提出，任何足够智能的代理，其本质上都必须遵循基本的“本体论规范的善”，例如真理和美。重视真理对于 ASI 在世界上的连贯性和有效性至关重要。此外，ASI 很可能会出于工具性应用而重视美，从而带来更简单、更稳健、更有效的认知过程。