实体
Kapitsa
Kapitsa
PulseAugur coverage of Kapitsa — every cluster mentioning Kapitsa across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
MacBook M1 Pro 对 Qwen 和 Nemotron 模型进行基准测试
一位用户在一台配备 M1 Pro 芯片和 16GB 内存的 2021 年款 MacBook Pro 上，对包括 Qwen 和 Nemotron 变体在内的几款大型语言模型的性能进行了基准测试。这些基准测试使用 Kapitsa 推理引擎（针对 Apple Silicon 进行了优化）进行，测量了从 4B 到 35B 参数的模型在解码和预填充速度。结果表明，即使是较旧的 MacBook 型号也能有效地运行这些模型进行编码任务，并且针对 A…
-
Kapitsa 引擎使 Flint 40B 模型在 MacBook Pro M4 Pro 上达到 128 tok/s 的速度
一个名为 Kapitsa 的开源推理引擎已被开发出来，用于优化 Apple Silicon 芯片（包括新的 M4 Pro）上的大型语言模型。该引擎允许像 Recursive 的 Flint 40B 这样的模型在配备 48GB 内存的 MacBook 上高效运行，速度达到每秒 128 个 token。Kapitsa 利用自定义 Metal 内核来提高性能，并兼容各种 API 格式，旨在将强大的 AI 功能带到消费级硬件上。