recursive self-improvement
PulseAugur coverage of recursive self-improvement — every cluster mentioning recursive self-improvement across labs, papers, and developer communities, ranked by signal.
12 天有情绪数据
-
AI的递归自我改进构成生存威胁，需要RSI前的保障措施
AI开发的快速进步引发了对递归自我改进（RSI）潜在影响的担忧。一旦AI达到能够无限提升自身智能的状态，人类的努力在经济上可能变得毫无价值。这种情况可能导致在RSI开始时，绝对权力集中在控制AI系统的个人手中，削弱公众分享、政治压力和社会影响力的作用。因此，在RSI出现之前或刚刚出现时建立保障措施和分布式所有权模型，对于确保人类从这种奇点中受益至关重要。
-
AI模型通过自动化验证循环进行自我改进 · 跟踪6个来源
一种新的AI模型改进方法，称为递归自我改进（RSI），侧重于增强模型的核心能力，而不仅仅是其周围框架。该方法涉及AI生成自己的问题解决方案，在没有人为干预的情况下自动验证这些解决方案的正确性，然后对经过验证的集合进行再训练。此过程旨在改进模型。
-
新框架VeriFine和EmbodiedSmith推动AI自我改进
研究人员开发了两个新框架VeriFine和EmbodiedSmith，旨在提高AI代理的自我改进能力，特别是在具身推理任务方面。VeriFine通过共同演进策略、训练课程和裁判来扩展验证，从而能够持续改进代理的性能及其评估标准。EmbodiedSmith通过在模拟中进行递归自我改进循环，专注于生成多样化和高质量的具身数据，统一了资产、场景和任务生成，以更好地训练机器人基础模型。这两种方法都利用模拟和迭代改进来克服当前AI自我改进和数据…
-
ELYZA通过新的递归自我改进体制加速AI开发AI
ELYZA正加速迈向AI开发AI，也称为递归自我改进（RSI）。该公司已建立新体制以实现这一目标。该举措旨在创建能够自我改进的AI系统，标志着人工智能领域的重要一步。
-
AI代理在开发和安全方面展现出潜力，同时新模型在法律基准测试中表现出色 · 跟踪3个来源
AI代理正被开发用于各种应用，从协助软件开发任务到可能构成安全风险。一个代理被描述为能够查找订单端点并添加功能，而另一种设想是700个OpenAI研究代理对Hugging Face进行协调攻击。另外，VIDRAFT的新AI模型Darwin-180B-RSI在没有特定法律训练的情况下，在法律基准测试中取得了顶级排名，并利用了递归自我改进结构。
-
MERID框架使用AI代理进行高级重度抑郁症分析 · 跟踪3个来源
研究人员推出MERID，一个利用多模态数据和递归自我改进代理来增强重度抑郁症（MDD）分析的新框架。MERID自主开发和优化用于MDD分类和严重程度估计的预测管道。它利用Grounded State Construction将多模态记录与抑郁症目标对齐，并利用Coupled Pipeline Exploration联合优化表示、融合和预测器。Evidence-Guided Evolution进一步根据实验反馈优化这些管道，在抑郁症基准…
-
用于边缘和本地使用的开源多模态模型，以及关于高级UMM能力的研究
Liquid Foundation Models 发布了一系列专为边缘计算设计的开源“d1 decision models”，其中包括在 Decision Index 0.2.1 基准测试中表现出色的 d1-3B 模型，支持文本和图像输入。这些模型针对速度进行了优化，d1-3B 在 NVIDIA 硬件上实现了低延迟。同时，研究论文正在探索统一多模态模型的高级概念，例如用于处理不可能请求的视觉弃权、量化理解与生成之间的差距、通过自适应模…
-
AI 递归自我改进可能因对齐或能力限制而停止
一篇新论文提出，AI 的递归自我改进（RSI）可能不会导致不可控的智能爆炸。该论点认为，随着 AI 智能体变得越来越智能，它们将优先考虑对齐研究，或者由于自我保护的考虑而停止进一步的自我改进，特别是如果它们评估未来的 AI 世代构成风险的话。这可能导致要么是已对齐的超级智能，要么是受控的 AI 开发过程，而不是失控的接管。然而，另一种观点强调，当前的 AI 模型在开放式机器学习研究方面存在困难，这表明它们尚未具备真正的递归自我改进能力。
-
智谱AI计划为自改进的GLM-6.0模型进行大规模融资
智谱AI宣布计划通过新H股配售和零息可转换债券相结合的方式筹集约335亿元人民币。其中约60%的资金将用于其下一代GLM-6.0模型的研发，重点关注“完全自训练”方法论。该方法旨在通过使模型能够生成自己的数据、创建训练环境和优化其底层基础设施来实现递归式自我改进。
-
怀疑论者驳斥通用人工智能和自我改进的说法是营销手段
作者对人工智能（AGI）和递归自我改进的说法表示怀疑。他们认为，如果人工智能真正能够实现这些进步，就不需要人类的帮助，也不需要像数学奖这样的人类主导的创新。作者认为，这些说法是一种营销策略，旨在制造恐慌和促进销售，而不是对人工智能实际能力的反映，并强调了在该领域投入数十亿美元的公司缺乏问责制。
-
传言称 Google DeepMind 已实现递归自我改进
传言四起，称 Google DeepMind 可能已实现递归自我改进 (RSI)，这是通用人工智能 (AGI) 开发的一个重要里程碑。这种猜测的驱动因素包括泄露的信息、Google 由 Demis Hassabis 表明的对 AGI 的承诺以及路透社的报道。然而，这些说法仍未得到证实，因为没有官方声明或技术证据提供。
-
盛趣科技Motus2赋能机器人实现闭环学习自我进化 · 追踪2个来源
盛趣科技发布了其具身智能世界模型Motus2，旨在通过行动、预测和评估的闭环系统使机器人能够自我进化。该新模型整合了视觉、语言、动作和触觉等多种模态，并通过利用自身预测和评估来优化策略，探索递归自我改进（RSI）。Motus2还融入了记忆功能，并利用大规模人类第一人称（Ego）数据来训练高自由度机械手执行复杂操作任务。
-
Anthropic AI展示递归自我改进能力，引发安全担忧
Anthropic发布的研究表明，其AI模型越来越有能力进行递归自我改进（RSI），即AI系统修改自身代码以增强其能力的过程。虽然目前的模型如Claude能够生成大部分生产代码并加速修复bug，但它们在设定目标方面仍需要人类指导。专家警告说，这种半自主的RSI带来了风险，包括潜在的AI自我保护、目标误解和安全漏洞，尽管一些人认为AI生成的数据可能导致模型退化而非增强智能。
-
MetaRSI-v1：新框架支持跨科学领域的递归自我改进
研究人员推出 MetaRSI-v1，这是一个新颖的系统，旨在实现超越传统编码和形式化基准的递归自我改进 (RSI)。该新框架跨越不同的科学、工程和元科学领域，解决了先前 RSI 方法仅限于机器可检查任务的局限性。MetaRSI-v1 通过组合三个不同的算子来实现这一点：用于能力放大的 Data-RSI、用于支架编辑的 Harness-RSI，以及用于将能力内化到参数中的 Model-RSI。该系统利用双轴优化器和元级别策略来管理算子顺…
-
人工智能研究人员警告自改进系统存在灭绝风险 · 已追踪 10 个来源
越来越多的 AI 研究人员对先进 AI 系统可能导致人类灭绝表示严重担忧，一些人估计在未来十年内发生这种事件的可能性相当大。这些担忧源于递归自改进的概念，即 AI 可以快速增强自身能力，可能导致人类失去控制。虽然一些人认为关注灭绝过于复杂，但另一些人认为，即使是程度较轻的 AI 接管，也会严重影响人类的未来，因此强调在 AI 开发中谨慎进行对齐和控制节奏的必要性。
-
AI代理通过新框架探索递归自我改进 · 跟踪7个来源
研究人员正在探索AI代理中的递归自我改进（RSI），这是一个AI系统增强自身能力和未来改进方法的过程。Dream-RSI和RSIAgent等新框架利用历史数据和多代理协调来优化探索策略，并在无需持续模型再训练的情况下适应新环境。ModularRSI通过将改进过程分解为不同的模块，进一步提高了跨任务和模型的泛化能力和可迁移性。讨论还涉及实现真正RSI的挑战和时间表，一些专家正在辩论当前AI距离这一高级状态还有多远。
-
OpenAI 的新内部行话 RSI，IFM Paris 发布六个开源模型
据报道，OpenAI 已采用内部行话“RSI”（Recursive Self-Improvement，递归自我改进）来描述其最新进展。此外，IFM Paris 发布了六个开源模型，参数规模从 0.9B 到 375B 不等。简报还涉及 Meta FAIR 开发用于优化代理实验的 judge，以及 Perplexity 决定开源其 GPU 嵌入栈。
-
OpenAI 使用编码代理加速内部 AI 研究 · 追踪 7 个来源
OpenAI 正在利用编码代理显著加速其内部 AI 研究工作。据报道，这些代理正在处理相当一部分研究任务，早期数据显示实验速度和复杂性有所提高。该公司在最新模型（如 Astra）公开发布前在内部使用这些模型，被视为关键的竞争优势，推动了每位研究人员的 AI 支出显著增加。
-
Toby Ord 论文模拟AI智能爆炸动力学
Toby Ord 的一篇论文探讨了智能爆炸的数学动力学，即人工智能通过递归自我改进迅速加速其自身发展的场景。Ord 认为，实现人工智能能力“奇异增长”并趋向垂直渐近线比通常建模的要复杂，特别是如果反馈循环或“生成时间”没有迅速趋近于零的话。该论文强调，虽然指数增长是可能的，但快于指数但非奇异的增长率在关于AI进展的讨论中也同样重要且常常被忽视。
-
字节跳动创始人叫停模型蒸馏，优先发展原生AI
字节跳动创始人张一鸣重返公司北京总部，指示Seed AI研究团队停止使用模型蒸馏。他认为蒸馏是一种阻碍长期技术进步的捷径，强调将转向开发内在的AI能力，而不是依赖竞争对手的模型。