I. J. Good
PulseAugur coverage of I. J. Good — every cluster mentioning I. J. Good across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
Hinton、Bengio和OpenAI科学家探讨AI驱动的智能爆炸 · 跟踪1个来源
由人工智能先驱Geoffrey Hinton和Yoshua Bengio以及OpenAI的Jakub Pachocki联合撰写的一篇新论文，探讨了人工智能（AI）的递归自我改进（RSI）引发智能爆炸的可能性。研究表明，随着AI越来越多地参与未来AI系统的开发，AI进步的速度可能会急剧加快，将数年的进展压缩到几个月内。该论文强调了来自Anthropic等实验室的数据，显示AI在研发任务中的贡献迅速增加，并提出与人类研究员不同，AI研究员…
-
谷歌的 Dream-RSI 论文详细介绍了具有固定模型的 AI 递归自我改进
谷歌研究人员发布了一篇关于 Dream-RSI 的论文，这是一种用于 AI 递归自我改进的方法。虽然该系统通过在 Lasso 求解器任务上将 Gemini 编码代理的调用次数减少 42% 来展示效率提升，但核心 AI 模型的权重保持不变。这种方法不同于传统的 AI 安全递归自我改进的定义，后者涉及模型重写自身代码或权重以变得越来越智能。
-
Anthropic AI展示递归自我改进能力，引发安全担忧
Anthropic发布的研究表明，其AI模型越来越有能力进行递归自我改进（RSI），即AI系统修改自身代码以增强其能力的过程。虽然目前的模型如Claude能够生成大部分生产代码并加速修复bug，但它们在设定目标方面仍需要人类指导。专家警告说，这种半自主的RSI带来了风险，包括潜在的AI自我保护、目标误解和安全漏洞，尽管一些人认为AI生成的数据可能导致模型退化而非增强智能。
-
Petrov Day手册更新，包含AI内容变更和2026年新事件
新版Petrov Day手册已发布，整合了前四个版本的元素并引入多项变更。主要修改包括为农业增加第七支蜡烛，重新阐述瘟疫对科学进步的影响，并缩减AI相关内容，仅包含I.J. Good的早期引言和2020年后的发展。更新版手册还增加了2026年的三个具体事件：OpenAI模型为数学问题做出贡献、New START条约到期以及Huggingface事件。
-
AI领袖辩论技术奇点临近程度
奇点，即机器智能超越人类能力并加速到我们无法控制的地步的概念，正在被著名的AI领袖们讨论。虽然OpenAI的Sam Altman和Google DeepMind的Demis Hassabis等人认为我们正接近这一点，但其他人则持谨慎态度。目前的AI系统，尽管在编码等任务上很先进，但在目标设定和自我改进方面仍需要人类指导，这表明距离真正的自主进步还有很长的路要走。
-
人工智能投资受1965年递归自我改进预测的推动
今天投入到人工智能研究中的巨额资本是由长期以来对人工智能超级智能（ASI）作为最终技术目标的认识所驱动的。英国数学家欧文·约翰·古德（Irving John Good）在1965年提出，ASI将能够进行递归自我改进，从而引发一场“智能爆炸”，超越人类智力。这一概念表明，第一个ASI将是人类的最后一项发明，因为随后的进步将源于机器本身。然而，古德也强调了人工智能对齐的关键重要性，强调ASI必须是温顺且可控的，以确保它能够作为人类进步的仁慈工具。
-
Sam Altman 宣布 AI 奇点已至，但专家质疑证据
OpenAI 首席执行官 Sam Altman 宣布人类已进入技术奇点，即人工智能能力超越人类预测和控制的时刻。然而，许多专家和分析人士对此表示怀疑，认为当前的人工智能系统仍然严重依赖人类输入、基础设施和控制，并且缺乏真正的自我改进能力。尽管人工智能的采用正在加速，并且一些系统表现出更大的自主性，但其经济影响和失控式人工智能进展的广泛证据尚未显现，这引发了关于这是否标志着真正的奇点还是仅仅是快速的技术进步的争论。
-
人工智能的过去与中国当前的AI采用
通过 I. J. Good 1964 年的论文《关于第一台超智能机器的推测》的视角，提供了人工智能的历史视角，该论文与今天的 AI 讨论仍然相关。另外，一期播客节目探讨了中国对人工智能技术的广泛采用，涵盖了从医疗保健和配送服务到国家监控等领域的应用。
-
1965年关于超智能机器的论文在线上重现
一篇题为《关于第一台超智能机器的推测》的1965年论文，作者为 I. J. Good，正在被分享和讨论。该论文以PDF形式提供，探讨了与人工智能和超智能发展相关的理论概念。关于该论文的讨论正在Mastodon和Hacker News等平台上进行。
-
AI Harness工程推动递归自我改进，Lilian Weng解释
Lilian Weng 的最新博文探讨了 Harness 工程作为实现人工智能系统递归自我改进 (RSI) 的关键组成部分。该概念源于早期人工智能理论，表明人工智能可以利用其当前智能来增强自身的认知能力并设计出更好的后继者。Weng 详细介绍了现代人工智能开发，特别是在 Anthropic 和 OpenAI 等前沿实验室中，如何通过这种自我改进循环得到加速，该循环不仅限于模型权重，还包括训练流水线和部署系统。该博文强调了 Harnes…