PulseAugur
中
实时 00:10:12
实体 M2 MacBook Air

M2 MacBook Air

PulseAugur coverage of M2 MacBook Air — every cluster mentioning M2 MacBook Air across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 4
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 4 条
  1. RESEARCH · CL_354910 ·

    Apple Silicon GPU通过新的稀疏内核获得LLM速度的重大提升

    研究人员开发了metalSPARSE,一种用于Apple Silicon GPU的新型内核,通过利用半结构化稀疏性显著加速LLM解码。该内核压缩模型权重,从而实现更快的内存带宽利用率,这对于边缘设备上的自回归模型至关重要。基准测试显示,与M2和M4 MacBook上的现有方法相比,速度有了显著提升,并且在结合特定的掩码和量化技术时,对模型质量的影响很小。

  2. TOOL · CL_177332 ·

    Gemma 4 LLM 通过 TurboFieldfare 在仅需 2GB RAM 的 Mac 上运行

    一款名为 TurboFieldfare 的开源推理引擎已被开发出来,可在内存仅为 2GB 的 Apple Silicon Mac 上运行 Google 的 Gemma 4 26B 大型语言模型。这是通过动态层激活、自适应量化和优化内存映射等技术实现的,大大降低了通常与 LLM 相关的内存要求。该项目可在 GitHub 上找到,展示了令人印象深刻的性能,一个 26B 参数的模型在 8GB M2 MacBook Air 上每秒可生成 12…

  3. TOOL · CL_176555 ·

    Gemma 4 26B 模型在专用的 2GB 常驻内存配置下运行

    一个名为 TurboFieldfare 的项目展示了 Google 的 Gemma 4 26B 模型的一种专用配置,该配置在 Apple Silicon 上使用了大约 2GB 的常驻内存。这是通过从 SSD 流式传输模型专家来实现的,而不是将整个模型保留在 RAM 中,这是 Gemma 4 的专家混合(Mixture-of-Experts)架构所支持的一种技术。虽然标题暗示了通用的 2GB 要求,但完整的系统仍需要至少 8GB 的 R…

  4. TOOL · CL_170877 ·

    开源引擎在配备 2GB RAM 的 Mac 上运行 Gemma 4 26B 模型

    一款名为 TurboFieldfare 的新型开源引擎允许用户在内存仅为 2GB 的 Mac 上运行 Gemma 4 26B 指令微调模型。该引擎采用 Swift 和 Metal 开发,将核心模型和 KV 缓存保留在内存中,同时从 SSD 流式传输必要的专家,从而显著降低了内存需求。这种方法使得大型语言模型可以在 Apple Silicon Mac 上运行,即使是那些只有 8GB 统一内存的设备也能运行,从而使先进的 AI 功能在消费…