Infernix,一个为 Qwen 架构模型优化的推理引擎,已获得重大更新。最新版本引入了对几种新的 Qwen3.8-Flash-Next 模型变体的支持,包括 NVIDIA QAD FP4、GSQ-RCO-IQ3_S、Swift 1.5 NVFP4,以及用于最大化质量的全 FP8 版本。它还增加了 DFlash2 草稿功能和一个 Beta 版 WebUI 启动器,用于更轻松的模型管理和配置,类似于 LMStudio 等工具。性能优化旨在超越 Strata 和 Basalt 等现有引擎。 AI
影响 增强了特定模型架构的本地推理能力,可能提高在消费级硬件上运行模型的用户的性能和可用性。
排序理由 这是一个开源推理引擎的发布,而不是来自主要实验室的前沿模型发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →