实体
26B parameter model
26B parameter model
PulseAugur coverage of 26B parameter model — every cluster mentioning 26B parameter model across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
15亿参数AI模型在笔记本电脑上超越260亿参数模型
一个拥有15亿参数的AI模型展现出了惊人的性能，在一个特定基准测试中，其表现比一个拥有260亿参数的更大模型高出46分。这个较小的模型可以在普通的笔记本电脑上运行，挑战了只有大规模、资源密集型模型才能实现高性能的观念。结果表明，即使参数数量较少，高效的模型架构和激活策略也能带来显著的提升。
-
老旧Xeon CPU通过内存卸载运行26B参数AI模型
一台10年前的Intel Xeon E5-2680 v4处理器，成本不到20美元，可以运行一个260亿参数的模型。这是通过一种称为“内存映射张量并行”（MTP）的技术实现的，该技术将模型权重卸载到RAM而不是GPU显存。这种方法可以在旧的、性能较低的硬件上实现高效推理，使大型模型更容易获得。