实体
BitCPM-CANN
BitCPM-CANN
PulseAugur coverage of BitCPM-CANN — every cluster mentioning BitCPM-CANN across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
时间线
最近 · 第 1/1 页 · 共 2 条
-
Bingbi AI 发布 BitCPM-CANN,支持在国内硬件上进行 1.58 位训练
Bingbi AI 已开源 BitCPM-CANN,这是一个专为国内 AI 加速器设计的训练框架。该框架支持 1.58 位模型训练,据称与传统的全精度训练相比,可将推理内存需求降低多达六倍。该技术与华为 Ascend 等芯片兼容,使得在本地硬件上进行高级 AI 训练更加便捷。
-
新型1.58位大语言模型家族推理内存减少6倍
新一代大语言模型BitCPM-CANN家族采用了一种新颖的1.58位三元量化技术。这些模型参数量从0.5B到8B不等,显著减少了推理内存占用,约为全精度模型的六分之一。在华为Ascend NPU上进行的训练过程引入的开销极小,吞吐量仅下降5%。