最近在 Mac Studio M4 Max 上进行的一项比较评估了 Qwen3.8-27B 和 Ornith 1.5 模型的性能。Ornith 1.5 模型在首个 token 生成速度上明显更快,对于一个 800 token 的提示,其耗时为 0.49 秒,而 Qwen3.8-27B 耗时为 3.46 秒。虽然 Qwen3.8-27B 的输出速度达到了 55 tokens/秒,但 Ornith 1.5 的速度更快,为 90 tokens/秒。在代码审查测试中,当禁用推理时,两个模型的表现相似,但当启用推理时,Qwen3.8-27B 表现不佳,识别出的正确 bug 更少,并且经常超出输出限制。 AI
影响 突出了本地 LLM 推理的性能差异,影响用户在 Mac 上进行 AI 任务的选择。
排序理由 在特定本地硬件上使用特定工具对两个特定 LLM 进行比较。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →