Recursive Language Models
PulseAugur coverage of Recursive Language Models — every cluster mentioning Recursive Language Models across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Matryoshka 项目为编码代理提供无需 LLM 的文档处理方案
Matryoshka 是一个开源的 TypeScript 项目，它为编码代理处理大型文档提供了一种新颖的方法。与传统的切片文件或使用 RAG 索引等方法不同，Matryoshka 将整个文档保存在服务器上，并为代理提供一种与之交互的查询语言。这种方法受到 Recursive Language Models 论文的启发，旨在通过返回数据的“句柄”而不是原始文本来显著减少 token 的使用。该项目的 MCP 服务器 lattice-mc…
-
MIT 博士 Alex Zhang 谈递归语言模型与 AI 研究
MIT 博士候选人 Alex Zhang 在一次播客访谈中讨论了递归语言模型 (RLM) 及其对 AI 研究的影响。他强调了 GPU Mode 社区的演变，该社区最初是 CUDA Mode，专注于 GPU 内核编程以及使用 AI 生成这些内核。Zhang 指出，虽然 AI 可以生成高分的 GPU 内核，但人类专家对于确保现实世界系统的稳定性和效率至关重要。他还强调了学术研究追求工业实验室可能回避的高风险、高回报项目的重要性，并以 RL…
-
AI代理和语言模型在动态决策和RLM研究方面取得进展 · 跟踪3个来源
该集群讨论了AI代理和语言模型的进展，涉及它们在动态决策中的应用以及开发的技术方面。其中一篇文章强调了如何使成本计算器适应AI代理，使其能够根据不断变化的输入做出决策。另一篇文章采访了一位麻省理工学院的博士生，讨论了递归语言模型（RLM），探讨了它们的能力和影响。第三篇文章提到了在RTX 3090上启用MTP以提高生成吞吐量，这表明AI模型生成的硬件或软件设置有所改进。
-
MIT博士候选人探索递归语言模型和智能体集群
MIT的博士候选人Alex Zhang正在探索递归语言模型（RLM）和先进的智能体系统在释放更强大AI能力方面的潜力。他的研究在Latent Space播客中进行了详细介绍，深入探讨了AI生成的GPU内核、通过组合器实现的组合泛化，以及“语言模型”演变成一个看不见的智能体集群的概念。Zhang的研究还涉及OpenAI的大规模智能体实验，并比较了多智能体系统的不同方法，表明当前的尖端模型可能已经拥有巨大的未开发潜力。
-
RLM-Rust 通过递归模型将 LLM 的 Token 成本降低了 96%
一位开发者创建了 RLM-Rust，一个旨在显著降低 AI 应用处理大上下文窗口相关 Token 成本的工具。通过在 Rust 中实现递归语言模型 (RLM)，该工具在 120,000-token 数据集上实现了比直接调用 LLM 高出 96.1% 的账单 Token 缩减。RLM-Rust 还提供了一个内存中查询引擎，在将相关信息发送到 API 之前在本地进行过滤，并支持包括 Gemini、OpenAI 和 Anthropic Cl…
-
新研究探索用于自动提示优化的模块化和递归方法
两篇新研究论文介绍了优化大型语言模型提示的新方法。第一篇SAPO将提示分解为角色、上下文和任务等部分，从而进行有针对性的改进，以提高在各种基准测试中的性能。第二篇RLMOpt利用递归语言模型来驱动优化过程本身，从而在多个任务和基准测试中实现更高效、更有效的提示生成，其性能通常优于GEPA等现有方法。
-
Meta 发布 Muse Code；Google DeepMind 重组领导层；Anthropic 组建芯片团队
几家主要人工智能公司正在经历重大的结构性变革和战略扩张。Meta 推出了 Muse Code，一个由 Muse Spark 1.2 驱动的终端编码代理，能够执行复杂的存储库级工程任务。Google DeepMind 领导层发生变动，Demis Hassabis 调任主席兼首席科学家，而 Jeff Dean 则离职创业，影响了 Alphabet 的股价。Anthropic 正在组建一个专门的人工智能芯片设计团队，以共同设计定制芯片和人工…
-
TimeRLM 使用递归语言模型实现精确时间序列异常检测
研究人员开发了 TimeRLM，这是一种新颖的递归语言模型，旨在提高长上下文时间序列数据中异常定位的准确性。通过使模型能够通过代码和视觉能力与数据进行交互和操作，该方法解决了传统时间序列语言模型在扩展上下文中的性能下降问题。TimeRLM 在名为 AnomalyXL 的新基准测试中显著优于现有方法，展示了卓越的定位和分类准确性，并在真实世界数据集上显示出潜力。
-
新论文探讨递归在长上下文语言模型中的作用
一篇新论文探讨了递归语言模型（RLM）中递归在处理长上下文方面的有效性。研究人员测试了 SRLM，该模型采样八个上下文交互程序并选择最自信、最短的那个。该方法比启用递归的 RLM 提高了 22.6 个点，但递归的必要性仍然是一个悬而未决的问题，尤其是在 GPT-5 的子调用使用了较弱的 GPT-5-mini 模型的情况下。
-
DSPy 的新 RLM 模块解决了 LLM 上下文遗忘问题
DSPy 框架引入了一个新模块 dspy.RLM，旨在解决大型语言模型（LLM）中的“上下文遗忘”（context rot）问题。这一现象由麻省理工学院（MIT）的研究人员发现，指的是模型在需要跨越整个上下文窗口进行推理的任务上性能下降，即使上下文窗口很大。DSPy 的递归语言模型（RLM）通过使模型能够以编程方式探索超大提示（oversized prompts），而不是一次性处理它们，来提供解决方案。
-
Ypi：一个基于 Raspberry Pi 的递归编码代理
Ypi 是一个利用 Raspberry Pi 并受递归语言模型启发的新的递归编码代理。Ypi 以 Y Combinator 命名，旨在成为一个自指的 Pi 代理。
-
Apple 发布 SRLM 以增强长上下文语言模型的推理能力
Apple Machine Learning Research 推出了一个名为 Self-Reflective Program Search for Long Context (SRLM) 的新框架。该框架旨在通过使用不确定性感知的自反思来评估和选择用于上下文交互的程序，从而改进语言模型处理长上下文的方式。SRLM 利用自洽性、推理轨迹长度和口头表达的置信度等信号，在相同的时间限制内，性能提升高达 22%，优于现有的递归语言模型 (R…
-
提案使用语义压缩处理AI长上下文会话
一项提案建议使用语义压缩作为一种输入扩散技术，以处理比当前上下文窗口更长的AI会话。该方法将上下文视为渐进式渲染，从压缩的大纲开始，然后逐渐添加压缩程度较低、细节更多的切片。目标是保留在标准压缩或检索方法中丢失的非局部信息。使用Qwen2.5 7B等小型、未训练模型的初步测试显示了单个组件的潜力，但在端到端连贯性方面存在困难，并计划进行进一步微调以评估位置感知训练。
-
新的上下文压缩方法使用扩散噪声函数
一位独立研究者提出了一种新颖的方法来处理语言模型中极长的上下文，即将上下文压缩视为一个扩散噪声函数。该方法涉及对源文档进行多次传递，每次传递使用一个逐渐不那么压缩的视图来精炼集成状态。对未经训练的模型进行的初步实验表明，虽然各个组件显示出潜力，但信息在传递过程中的保留和重组仍然是一个瓶颈，这表明需要进一步的模型训练来验证。
-
Amazon Bedrock AgentCore 打破了 LLM 的上下文窗口限制
Amazon Bedrock 推出了 AgentCore，一项旨在克服大型语言模型上下文窗口限制的新功能。该功能通过将输入视为外部环境，使模型能够处理和推理几乎任何长度的文档。它采用递归语言模型 (RLM) 方法，其中根 LLM 代理通过生成代码与文档块进行交互来协调分析，将语义任务委托给子 LLM，并将结果累积到持久工作内存中。
-
RAG 系统架构在知识库中毒方面表现出不同的鲁棒性
研究人员调查了检索增强生成（RAG）系统在知识库中毒方面的脆弱性，发现系统架构对对抗性鲁棒性有显著影响。在 Natural Questions 数据集上的评估显示，与普通 RAG 系统相比，旨在处理冲突信息（如递归语言模型 RLM）的架构在抵抗中毒攻击方面明显更具抵抗力。研究表明，对于大多数架构而言，对抗性框架而非检索优化是攻击成功的首要驱动因素，突显了内容推理阶段是关键的脆弱点。