一位 Mastodon 用户报告称,在使用 AMD Strix Halo 平台运行 Qwen3.8 Flash-Next 模型进行推理时,功耗效率令人印象深刻。GPU 平均仅消耗 45W 功率,与灯泡相当,同时实现了大约每秒 32 个 token 的生成速度。 AI
影响 展示了在消费级/专业级硬件上实现高效 AI 推理的潜力。
排序理由 用户关于特定模型硬件性能的报告,并非官方发布或基准测试。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →