HRM-Text
PulseAugur coverage of HRM-Text — every cluster mentioning HRM-Text across labs, papers, and developer communities, ranked by signal.
- 2026-06-13 product_launch Sapient Intelligence released the HRM-Text model, a 1-billion parameter AI trained for $1500. 来源
1 天有情绪数据
-
HRM-Text：拥有10亿参数的新型架构模型挑战LLM范式
Sapient Intelligence开发的一款名为HRM-Text的新语言模型，因其创新的架构而受到关注，该架构侧重于内部推理，而非仅仅增加模型规模或训练数据。该模型仅拥有10亿参数，训练成本约为1500美元，在MATH和GSM8K等基准测试中取得了令人印象深刻的分数。这种被称为分层推理模型（HRM）的架构强调潜在推理，允许模型在产生输出之前在其内部状态中执行多轮、分层和递归计算，这一概念也得到了Yoshua Bengio团队研究的探索。
-
仅花费1500美元训练的小型AI模型在基准测试中取得高分
Sapient Intelligence开发了HRM-Text模型，这是一个拥有10亿参数的AI模型，仅花费了1500美元进行训练。尽管模型规模小且训练成本低，但它在基准测试中取得了高分，与Qwen、Gemma或Llama等同类模型相比，使用的计算资源和Token数量显著减少。训练过程不同寻常，跳过了训练后优化和RLHF。
-
HRM-Text模型大幅削减LLM预训练成本
研究人员开发了一种新颖的层次循环模型HRM-Text，它显著减少了预训练大型语言模型所需的计算资源和训练数据。通过将计算分解为策略层和执行层，并专门在指令-响应对上进行训练，一个10亿参数的模型在多个基准测试中取得了有竞争力的性能，而使用的token和计算量仅为标准模型的一小部分。这种方法通过降低从头开始预训练的门槛，使基础LLM研究更加易于获得。
-
Qwen 3.7 支持可调式审查，NVIDIA 微调机器人视频生成
Qwen 发布了其语言模型 3.7 版本，该版本包含一个可修改的政治审查专用电路，且修改后不损失事实知识。NVIDIA 的 Cosmos Predict 2.5 模型现在可以使用高效的 LoRA/DoRA 方法进行机器人视频生成的微调。此外，新的 HRM-Text 模型为预训练基础模型提供了更易于访问且成本效益更高的方法。
-
Hugging Face Transformers 库新增模型并修复错误
Hugging Face 的 `transformers` 库发布了一系列版本和补丁，引入了新模型并修复了各种错误。值得注意的是，5.9.0 版本添加了 Cohere 的 Command A+ (Cohere2Moe) 和 HRM-Text，同时改进了音频支持和生成能力。早期版本，如 v5.8.0，集成了 DeepSeek-V4、Gemma 4 Assistant、GraniteSpeechPlus、Granite4Vision、EX…