实体
boron-10
boron-10
PulseAugur coverage of boron-10 — every cluster mentioning boron-10 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Nvidia 发布集成式机器人出租车平台和开源推理模型
Nvidia 发布了一个用于机器人出租车技术的三计算机平台，涵盖训练、模拟和车载驾驶功能。该公司还在 GitHub 上公开了一个拥有 100 亿参数的推理模型。这种集成方法旨在支持所有主要的机器人出租车车队。
-
CPU LLM优化：活跃参数是速度的关键
一位Reddit用户正在探索一种在没有GPU的情况下，在CPU上运行大型语言模型的新方法，目标是使一个拥有100亿参数的模型达到每秒100个token的解码速度。核心思想是，CPU解码速度取决于每个token的活跃参数，而不是总参数，这表明具有细粒度混合专家（MoE）和三元权重（ternary weights）的架构可以在不牺牲速度的情况下扩展模型容量。对一个较小模型的初步测试表明，在优化活跃参数时，每秒token数显著增加。