Basalt 项目通过其 Strata 分支,为 Qwen3.8 Flash Next 模型创造了新的基准。该系统运行在拥有 51 GB RAM 的单 RTX 5080 上,展现出令人印象深刻的性能,提示处理速度达到每秒 5500 个 token。在使用 opencode 进行直播编码会话期间,模型达到了高达每秒 275 个 token 的峰值生成速度。 AI
影响 展示了在消费级硬件上本地部署 LLM 的显著性能提升。
排序理由 该条目描述了特定模型和分支的基准成就,属于研究里程碑。 [lever_c_降级自研究:ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →