实体
Sapient Intelligence
Sapient Intelligence
PulseAugur coverage of Sapient Intelligence — every cluster mentioning Sapient Intelligence across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
HRM-Text：拥有10亿参数的新型架构模型挑战LLM范式
Sapient Intelligence开发的一款名为HRM-Text的新语言模型，因其创新的架构而受到关注，该架构侧重于内部推理，而非仅仅增加模型规模或训练数据。该模型仅拥有10亿参数，训练成本约为1500美元，在MATH和GSM8K等基准测试中取得了令人印象深刻的分数。这种被称为分层推理模型（HRM）的架构强调潜在推理，允许模型在产生输出之前在其内部状态中执行多轮、分层和递归计算，这一概念也得到了Yoshua Bengio团队研究的探索。
-
仅花费1500美元训练的小型AI模型在基准测试中取得高分
Sapient Intelligence开发了HRM-Text模型，这是一个拥有10亿参数的AI模型，仅花费了1500美元进行训练。尽管模型规模小且训练成本低，但它在基准测试中取得了高分，与Qwen、Gemma或Llama等同类模型相比，使用的计算资源和Token数量显著减少。训练过程不同寻常，跳过了训练后优化和RLHF。