Lightseekorg 在 Qwen3.8-Flash-Next 模型上取得了新的基准测试结果,在使用 NVIDIA GB300 GPU 和 NVFP4 时,每用户每秒可输出 685 个 token。这一结果凸显了该模型的推理潜力和其在内核和部署基础设施方面取得的优化。阿里巴巴的 Qwen 团队祝贺 Lightseekorg 取得令人印象深刻的 TokenSpeed 结果,并鼓励进一步探索该模型的潜力。 AI
影响 展示了 Qwen 模型在推理速度方面的显著提升,可能影响部署成本和实时应用性能。
排序理由 现有模型的基准测试结果,并非新发布。 [lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →