一位 Mastodon 用户分享了他在 Apple M3 Max 芯片上本地运行 Qwen3.8-Flash-Next-oQ4e-mtp 模型的体验。尽管由于只能卸载模型 50% 的专家而导致性能缓慢,但用户对其成功完成计算机使用基准测试(带自定义 GUI 和 harness)感到印象深刻,得分 23 分(满分 25 分)。该模型被指出是用户能够运行的第一个能够处理此特定基准测试的本地模型。 AI
影响 展示了本地 LLM 在消费级硬件上日益增长的能力,可能支持更广泛的应用场景。
排序理由 关于在消费级硬件上本地运行特定模型的用户体验报告。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →