English(EN) I Ran 3 Open-Weight LLMs Head-to-Head on a 24GB Mac — One Was 3x Faster

OpenAI 的 GPT OSS 20B 在 Mac 上的速度和编码基准测试中领先

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-04 00:07

在配备 24GB 内存的 Apple M2 机器上，对三款开源大模型——OpenAI 的 GPT OSS 20B、阿里巴巴的 Qwen3 14B 和 Mistral AI 的 Mistral-Small 24B——进行了比较。GPT OSS 20B 速度最快，比 Qwen3 14B 快三到四倍，并在 GSM8K 和 HumanEval+ 基准测试中取得了满分。然而，Qwen3 14B 在原始知识方面表现最佳，MMLU 得分为 82%，超过了 GPT OSS 20B 的 72%。Mistral-Small 24B 在 24GB 硬件上受到内存限制的困扰，在较大的基准测试中超时，并且在这种特定配置下被证明是不可靠的选择。 AI

影响为消费者硬件上的开源大模型性能提供了实用见解，指导开发人员在资源受限环境下的模型选择。

排序理由在特定硬件和基准测试上对开源大模型进行比较。 [lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

OpenAI 的 GPT OSS 20B 在 Mac 上的速度和编码基准测试中领先

本文如何被排名

Signal score: 29 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 在特定硬件和基准测试上对开源大模型进行比较。 [lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: model release, product; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Pitambar Mahato · 2026-09-04 00:07

我在 24GB 内存的 Mac 上对 3 款开源大模型进行了正面比较——其中一款速度快了 3 倍

<p>I ran three Apache 2.0 open-weight LLMs — OpenAI's gpt-oss-20B, Alibaba's Qwen3-14B, and Mistral's Mistral-Small-24B — on the same Apple M2 24GB machine, through the same Ollama 0.12.x runtime, on the same four benchmark tasks. The fastest model is the one I didn't expect to w…

本文如何被排名

报道来源 [1]

我在 24GB 内存的 Mac 上对 3 款开源大模型进行了正面比较——其中一款速度快了 3 倍

相关实体

相关话题