Hierarchical Recursive Model
PulseAugur coverage of Hierarchical Recursive Model — every cluster mentioning Hierarchical Recursive Model across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
思维链被质疑为大语言模型扩展陷阱；潜在推理出现
大语言模型中的思维链（Chain of Thought, CoT）推理正被重新评估，认为它可能是一个扩展陷阱，研究人员认为它可能是接口的产物，而非核心计算。CoT 的局限性包括缺乏忠实性，生成的步骤可能与模型的实际过程脱节，以及由于串行的中间工作导致的高系统成本。Coconut、分层递归模型（HRM）和 RecursiveMAS 等新兴方法正在探索潜在推理，即计算发生在内部状态而不是显式的文本中，旨在提高效率和降低延迟。然而，这种向潜…
-
HRM-Text：拥有10亿参数的新型架构模型挑战LLM范式
Sapient Intelligence开发的一款名为HRM-Text的新语言模型，因其创新的架构而受到关注，该架构侧重于内部推理，而非仅仅增加模型规模或训练数据。该模型仅拥有10亿参数，训练成本约为1500美元，在MATH和GSM8K等基准测试中取得了令人印象深刻的分数。这种被称为分层推理模型（HRM）的架构强调潜在推理，允许模型在产生输出之前在其内部状态中执行多轮、分层和递归计算，这一概念也得到了Yoshua Bengio团队研究的探索。
-
新框架衡量人工智能空间推理中的信息流
研究人员引入了一个名为“交互局部性”的新框架，用于衡量人工智能模型在空间推理任务中信息流动的过程。该框架分析计算是否保持局部化或跨越语义边界，并将其应用于HRM和TRM等分层和递归推理模型。研究发现，这些模型中的高级状态倾向于在局部写入信息，然后通过递归更新累积到更广泛的结构中，这种模式在具身3D模型模块边界处也得到了观察。