capy-flash 引擎，NInfer 的一个分支，已更新至 0.7.4 版本，为双 GPU 设置下的 Qwen3.8 模型提供了增强的性能。它专门针对 NVFP4 量化进行了优化，并且可以在各种配置下运行，包括单 GPU 或混合配对。虽然不旨在超越 NInfer 或 Strata 等单卡引擎，但 capy-flash 提供了具有竞争力的速度，特别是对于其 Qwen3.8-Flash-Next 模型，并且在使用双 GPU 上的 NVFP4 权重时，相比 Strata 具有明显优势。 AI
影响 为双 GPU 系统上特定的 Qwen3.8 模型配置提供了改进的性能，使拥有兼容硬件的用户受益。
排序理由 这是对一个特定开源 LLM 运行引擎的更新，而非前沿实验室的发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
