一位用户在双配置的 Snapdragon 迷你 PC 上对两个大型语言模型 Qwen3.6 35B A3B 和 Qwen3.8 Flash Next 进行了跑分测试。测试使用名为 ToRc 的自定义引擎进行,测量了文本和代码提示的 token 生成速度。Qwen3.6 模型在文本生成方面达到了 315/43 token/秒,而 Flash Next 模型在代码生成方面达到了 46/20 token/秒。 AI
影响 展示了消费级硬件运行复杂 LLM 的本地化能力日益增强。
排序理由 用户生成的关于在消费级硬件上运行 LLM 的基准测试结果。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →