PulseAugur
中
实时 09:48:30
English(EN) Weights + context + macOS: my measurements of Qwen 3.5 and Gemma 4 on a MacBook M5 16 GB, KV cache math for 8B–70B, and what fits into 16–128 GB. # ai # llm # m

Qwen 3.5 和 Gemma 4 在 MacBook M5 上的性能测量

作者在配备 16 GB RAM 的 MacBook M5 上对 Qwen 3.5 和 Gemma 4 模型进行了性能测量。分析包括 KV 缓存的计算,并探讨了从 8B 到 70B 参数的不同模型尺寸如何适应 16 GB 到 128 GB 的可用内存容量。 AI

影响 提供了关于 LLM 在消费级硬件上实际部署和性能限制的见解。

排序理由 该项目详细介绍了在消费级硬件上特定 LLM 模型的性能测量和内存容量分析,符合研究类别。[lever_c_demoted from research: ic=1 ai=1.0]

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Qwen 3.5 和 Gemma 4 在 MacBook M5 上的性能测量

本文如何被排名

Signal score
12 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该项目详细介绍了在消费级硬件上特定 LLM 模型的性能测量和内存容量分析,符合研究类别。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    权重 + 上下文 + macOS:我在 MacBook M5 16 GB 上对 Qwen 3.5 和 Gemma 4 的测量,8B–70B 的 KV 缓存数学,以及 16–128 GB 的容量。# ai # llm # m

    Weights + context + macOS: my measurements of Qwen 3.5 and Gemma 4 on a MacBook M5 16 GB, KV cache math for 8B–70B, and what fits into 16–128 GB. # ai # llm # macos # machinelearning # software # coding # development # engineering # inclusive # community How much RAM does a local…