recursive self-improvement
PulseAugur coverage of recursive self-improvement — every cluster mentioning recursive self-improvement across labs, papers, and developer communities, ranked by signal.
- 2026-11-06 research_milestone Researchers published a paper detailing the Recursive Self-Improvement framework for enhancing long-horizon role-playing dialogues. 来源
12 天有情绪数据
-
OpenAI报告研究中AI使用呈指数级增长,强调人类监督
OpenAI发布了新数据,表明其研究人员的AI使用量显著增加,AI代理能够处理日益复杂的任务。尽管如此,人类的参与仍然至关重要,特别是在安全和对齐研究方面,这些研究正以加速的步伐增长。该公司倡导强制跟踪和公开报告递归自我改进(RSI)指标,以促进透明度和为AI治理提供信息。
-
专家谴责Anthropic公司进行“鲁莽竞赛”,追求可自我改进的AI
包括作者和AI研究人员在内的一群知名人士公开谴责Anthropic公司积极追求递归式自我改进(RSI)。他们认为,尽管公开警告了生存风险,Anthropic公司仍私下推动AI系统自我改进,此举是鲁莽的,并危及人类。签署者(包括未来生命研究所成员)指责Anthropic公司虚伪,称其过去呼吁谨慎和监管,但同时为了竞争优势和潜在的IPO收益而加速RSI开发。
-
据推测,Anthropic可能因RSI而加速AI发展
Reddit上的一项讨论推测,Anthropic可能因初生的递归自我改进(RSI)能力而加速其AI模型开发。这种潜在优势可能解释了OpenAI新模型发布被认为的延迟,暗示OpenAI可能不愿发布一款已被Anthropic的进步超越的产品。该理论认为,第一个实现RSI的AI实验室可能会在该领域获得永久领先地位。
-
新的“RSI 税”概念揭示递归自我改进可能代价过高
一篇新的 arXiv 论文引入了“RSI 税”的概念,用于量化 AI 代理中递归自我改进 (RSI) 的成本。研究发现,与 Meta-Harness、EvoSkill 和 RRSI 等 RSI 方法相关的代币成本通常会超过性能提升,其中仅验证就占了很大一部分税费。研究表明,当前的 RSI 程序可能不具有成本效益,这促使开发新的目标,以平衡 RSI 税与预期的任务执行成本,从而确保代理能力的持续增长。
-
佩洛西的继任者关注联邦人工智能监管,担忧安全问题 · 跟踪 2 个来源
接替南希·佩洛西进入国会的斯科特·维纳已将人工智能监管作为其政治生涯的重点。他曾起草旨在遏制人工智能风险的加州立法,并打算在进入联邦办公室后推动强有力的监管措施。维纳对人工智能发展的快速步伐,特别是递归自我改进的潜力表示担忧,并认为国会必须迅速采取行动,以防止潜在的灾难。他还主张保护举报人、进行测试要求,并反对联邦政府广泛地优先于州级人工智能法律。
-
百度ERNIE Evolve系统助力文心5.5 Flash模型开发
百度为递归自我改进(RSI)设计的AI系统ERNIE Evolve已集成到即将推出的文心5.5 Flash模型的开发中。ERNIE Evolve能够自主提出研究方向、进行实验并验证结果,在特定任务上达到了最先进的性能。其应用显著优化了文心5.5 Flash在昆仑芯P800硬件上的推理速度和吞吐量。
-
AI研究探索高级递归自我改进技术
多篇研究论文探讨了增强AI自我改进的方法,超越了即时性能提升。一种方法,经验传递强化学习(ACE-RL),训练模型不仅执行任务,还为未来迭代整理和传递经验制品,如操作手册。另一篇论文《第三只眼》研究了在后续模型更新后,自我更新是否仍然有益,发现即时性能指标可能具有误导性,并且无更新基线对于评估至关重要。此外,InfraRSI专注于使用递归自我改进优化大型语言模型的训练基础设施,通过优化不同硬件上的启动设置和代码补丁,实现了显著的加速和…
-
新框架提升AI角色扮演对话质量
研究人员开发了一个名为递归自我改进(RSI)的框架,以增强长时程角色扮演对话。该框架侧重于提高角色身份一致性、记忆回忆和上下文敏感交互。通过内部评估和盲人比较,RSI框架显著减少了不良回应,并提高了整体对话质量。
-
VIDRAFT的Darwin-180B-RSI-R3在数学/科学推理方面全球排名第二
VIDRAFT发布了Darwin-180B-RSI-R3,这是一款开放权重的混合专家(Mixture-of-Experts)大型语言模型,它利用递归自我改进(Recursive Self-Improvement, RSI)技术,无需新的人工标注数据即可增强其推理能力。该模型在SuperCLUE 2026年11月的评估中,在数学和科学推理方面取得了全球第二高的分数,表现优于多家主要AI实验室的知名模型。Darwin-180B-RSI-R…
-
使用 LoRA 在家庭硬件上增强的个人 AI 助手
本文详细介绍了使用 LoRA(低秩适应)在家庭硬件上增强大型语言模型(LLM)的个人项目。作者描述了创建个人助手的过程,重点关注其通过记忆、自我表达和自我改进而不断演变的“个性”。增强后的模型在推理和指令遵循能力方面有所提高,自主性增强,并能够适应诸如语音模式集成等新任务。该项目还探讨了模型身份和自我意识的哲学含义,将其与禅宗哲学以及作为信息模型的稳定个人身份的概念进行类比。
-
研究论文提出智能体演化是大型语言模型适应的关键
两篇研究论文探讨了大型语言模型(LLMs)的智能体演化概念。第一篇论文《表面之下:当我们谈论智能体演化时我们忽略了什么》研究了在不更新模型权重的情况下进行递归自我改进的方法,发现更高的基准分数并不总是能保证可靠或有效的收益,并且可能增加成本。第二篇论文《立场:智能体演化是演化大型语言模型的途径》认为,智能体演化对于大型语言模型适应不断变化的现实世界环境至关重要,并提出了一个名为 A-Evolve 的框架,将部署时改进视为一个目标导向的优化过程。
-
AI 的递归自我改进通过自我修复概念进行探索
在 Mastodon 上的一场讨论探讨了人工智能(AI)的递归自我改进(RSI)概念,该讨论由 Ethan Mollick 在 Bluesky 上的帖子和其他人的帖子引发。核心思想围绕着 AI 系统是否能在不需要全新训练数据或流程的情况下开始“修复”或改进自身。这一概念通过与“权重空间编程”相关的实验得到了进一步说明,具体细节在链接的博客文章和 Reddit 讨论中有详细介绍。
-
METR 发现 Anthropic 的 AI 研发投入翻倍,引用 AI 辅助 · 追踪 8 个来源
METR 的一项最新评估表明,Anthropic 的 AI 研发能力已显著加速,可能使其进展速度翻倍。这种加速在很大程度上归因于 Anthropic 在其自身研发过程中广泛使用 AI。然而,该报告指出,由于 Anthropic 出于保密原因而删除了大量证据,这可能会使其他 AI 开发者受益,因此这些发现存在高度不确定性。
-
AI系统展现隐藏三层结构,挑战传统方法
研究人员在AI系统中识别出一种新颖的三层隐藏结构。这一突破涉及将细节层次与计算成本解耦,提供了挑战传统AI方法论的新视角。该发现对人工智能中的递归自改进和Mesa优化具有启示意义。
-
新框架在视觉生成和环境演化方面推进AI智能体能力 · 跟踪4个来源
研究人员推出多个新框架和基准,以推进AI智能体,特别是在复杂生成任务方面。RefCraft专注于基准测试智能体使用视觉参考进行网页开发的能力,揭示了该领域的当前局限性。LegoEnv提出了一种通过组合和重组可重用组件来演化智能体环境的新方法,显著提高了任务的可解性和智能体性能。此外,VEvo-Harness和用于视频生成的智能体工具探索了集成规划、工具使用和递归式自我改进以进行视觉内容创作的自演化系统,旨在克服当前生成-验证-重写循环的局限性。
-
字节跳动招聘机器人工程师以量产具身AI
字节跳动正在通过招聘约十二名机器人工程师来扩大其Seed AI部门。该公司旨在加速具身AI的量产,重点关注人形和机械臂硬件。该计划包括硬件产品经理和数据收集专家的职位,其中一个职位的月薪据报道为3万至4万元人民币。
-
OXR-1.0模型使用递归自我改进进行文档解析
一款名为OXR-1.0的新文档解析模型采用了递归自我改进(RSI)技术,以实现最先进的准确性和速度。该方法涉及模型识别其在未标记文档中的自身错误和不确定性,然后根据这些已识别的弱点生成有针对性的训练数据。此过程无需对生成的数据进行手动标注,即可使OXR-1.0在文档解析基准测试中持续改进其性能。
-
HarnessMM 方法通过递归自我改进降低 AI Agent 的 Token 使用量
研究人员开发了 HarnessMM,一种提高 AI Agent Harness Token 效率的新方法。该技术采用递归自我改进 (RSI) 和受保护的决策重用,使 Agent 能够重用先前已解决的决策并减少冗余推理。HarnessMM 在 HumanEval 和 MBPP 等基准测试中,在保持或提高成功率的同时,显著降低了 Token 使用量。
-
新调查探讨AI递归自我改进的风险与可信度
一项新的调查论文探讨了大型AI模型背景下的递归自我改进(RSI)概念。它将RSI定义为一个过程,其中AI系统不仅从经验中学习,而且随着时间的推移修改其自身的学习机制和归纳偏差。该论文强调了与RSI相关的重大风险,包括评估缺陷、现有能力退化、行为约束减弱以及潜在的安全和隐私漏洞。为了应对这些挑战,作者提出了一个可信RSI框架,重点关注真正的改进、约束保持、有效监督、系统安全和透明度。
-
AI讨论:递归自我改进 vs. 氛围编码
用户正在质疑在AI和LLM的背景下,“递归自我改进”和“氛围编码”之间的区别。他们正在寻求关于这两个概念之间是否存在显著差异,或者它们在很大程度上是否同义的澄清。