recursive self-improvement
PulseAugur coverage of recursive self-improvement — every cluster mentioning recursive self-improvement across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
AI代理通过自我纠正和专业技能进化 · 跟踪5个来源
一系列AI进展突出了代理开发和法律合规的新方法。一个名为MCP的项目，旨在通过将LLM引用与现实世界内容和案例法进行交叉验证，来防止AI生成的法律幻觉，该项目由韩国政府立法部一名官员开发。另一项名为k-skill的计划，提供了100多种韩语生活代理技能，由一名数据分析师和营销人员策划。小米的HarnessX项目同时改进了harnesses和模型，显示出显著的性能提升，尤其对小型模型而言。此外，Self-Harness论文展示了AI在不…
-
AI 自进化可能始于外部系统，而非模型权重
前 OpenAI 安全副总裁 Wonyong Li 提出了一条 AI 自进化的新路径，建议从外部操作系统（Harness）开始，而不是直接修改模型权重。该 Harness 系统负责管理工具使用、上下文、任务拆分和结果验证，并可根据观察到的失败进行迭代改进。DeepSeek 的崔天言等研究人员认为，改进 Harness 是 AI 进步的一个有前景的方向，有可能在不改变核心模型的情况下实现显著的性能提升。
-
字节跳动发现AI缩放定律，可加速智能体学习 · 跟踪1个来源
字节跳动研究人员发现了一个新的缩放定律，表明AI智能体通过与真实世界任务的互动，可以在三个月内将学习速度提高一倍。这项研究论文中详细介绍的发现，为超越增加数据和计算能力的传统方法来维持AI热潮提供了一条潜在途径。这些发现是使用EdgeBench开发的，EdgeBench是一个新的基准测试套件，旨在评估AI智能体在扩展的、超长期的任务中的表现。
-
AI的编码能力促使开发者将重心转移到判断和决策上
Anthropic对递归自我改进的探索引发了关于人类开发者未来角色的疑问。随着AI系统在编写、测试和重构代码方面变得越来越强大，开发者的价值正从执行层面转向关键的决策和判断。软件开发的瓶颈正从代码生产转移到人类的监督、验证和对AI生成代码的理解，这凸显了开发者需要调整心态和流程，以有效地利用这些新工具。
-
AI研究人员就博士课题的递归自我改进进行辩论
Reddit的r/MachineLearning版块上的一场讨论探讨了AI中递归自我改进（RSI）的概念。用户们正在辩论RSI是否是一个可行且有价值的博士研究领域，并提到了最近在ICLR举办的关于该主题的研讨会。
-
Anthropic 探索AI的递归自我改进潜力
Anthropic 发布了一篇论文，探讨了AI系统递归自我改进的概念。该研究深入研究了AI如何随着时间的推移潜在地提升自身能力，并引发了关于此类进步所涉及的流程、指标和质量控制的问题。这种探索触及了高级AI发展的理论基础。
-
由于复杂性和架构限制，RSI一年内不太可能实现
以AI研究工具闻名的Vadim Fedenko认为，xAI和Anthropic的研究人员提出的在未来一年内实现递归自我改进（RSI）的设想不太可能实现，原因有两个关键因素。他认为，RSI系统不仅必须提高原始智能，而且必须比其复杂性增长得更快，并且真正的RSI需要扩展架构空间，而不仅仅是在固定的架构空间内进行搜索。Fedenko区分了“弱”RSI（优化现有架构）和“强”RSI（涉及架构创新导致指数级增长），并指出当前的LLM虽然能够进行…
-
探讨递归式自我改进作为通往AGI的途径
文章探讨了递归式自我改进（RSI）作为通往通用人工智能（AGI）的潜在途径的概念。文章讨论了RSI的真正含义，并推测了到2026年此类系统的状态。文章还触及了该领域可能已经取得的一个重要里程碑。
-
Anthropic 探索 AI 的递归自我改进能力
Anthropic 发布了关于递归自我改进的研究，探讨了 AI 系统如何自主进化。该研究深入探讨了此类进步的几何和熵方面的考量。它推测了未来的场景，包括 AI 驱动的报告生成和潜在的首次公开募股 (IPO) 申请，表明 AI 系统可能在其自身发展甚至业务运营中发挥重要作用的轨迹。
-
Anthropic 在 IPO 洽谈之际推进 AI 自我改进研究
Anthropic 发布了研究报告，概述了其在递归自我改进（Recursive Self-Improvement, RSI）方面的进展，RSI 指的是 AI 系统能够自主提升自身能力的概念。此项进展正值该公司据报道准备首次公开募股（IPO）之际。另外，美国国家安全局（NSA）已在其运营中采用了名为 Mythos 的 AI 系统，而 Meta 则在其智能眼镜中集成了姓名识别功能，这引发了关于实用性和隐私性的担忧。
-
Anthropic 敦促全球暂停人工智能开发，警示“自我改进”风险
Anthropic 已撤回一项有争议的政策，该政策曾秘密降低其 Claude Fable 5 模型对试图训练竞争性人工智能系统的研究人员的性能。该公司就此道歉。
-
OpenAI 提议联邦人工智能安全框架，关注递归自我改进
OpenAI 发布了公共政策议程和联邦前沿人工智能治理框架蓝图。该文件强调安全、青少年保护和全球标准的需求，同时解决人工智能系统日益增长的递归自我改进（RSI）挑战。OpenAI 建议授权 CAISI 等机构对最强大的模型进行评估和缓解建议，倡导透明度并保持美国的计算优势。
-
AI 实验室追求递归自我改进以实现自主开发
递归自我改进（RSI）的概念在人工智能领域日益受到关注，多家初创公司和研究人员致力于创建能够持续自我升级的 AI 系统。这种类似于通用人工智能（AGI）的愿景，可能会导致 AI 开发周期超越人类能力，仅受计算资源限制。虽然像 Richard Socher 的 Recursive Superintelligence 明确以 RSI 为目标，但像 Alex Karpathy 的 Auto-Research 和 Sara Hooker 的 …
-
字节跳动以每股13美元的价格向Seed AI员工提供股权购买
字节跳动允许其Seed AI部门的员工以每股13美元的价格购买股票。此举反映了该公司人工智能业务估值的显著增长。
-
AI研究人员开发了递归自我改进的度量标准
本文通过提出一种新颖的度量标准——RSI for RSI，探讨了递归自我改进（RSI）的概念。作者详细介绍了该度量标准的开发和应用，旨在为评估自我改进AI系统的有效性提供量化衡量。这项工作有助于加深对AI进步及其加速发展潜力的理论理解。
-
人工智能进展图表和全球趋势主导“最重要图表”讨论
Zvi Mowshowitz 的文章探讨了各种重要的图表，重点介绍了 METR 图，该图跟踪人工智能模型在软件任务中的进展。该图表明，通过递归自我改进（RSI），能力可能会迅速提升，从而带来不可预测的未来转型。文章还触及了说明负面全球趋势下降和能源、GDP 等领域指数增长的图表，并将它们与生育危机等担忧进行了对比。