354 prose

Basalt 推理引擎为 Qwen3.8 Flash-Next 提供 2.6 倍速度提升

一个名为 Basalt 的新推理引擎已被开发出来，为特定的语言模型提供了显著的速度提升。该引擎是 Strata 的一个分支，针对 Qwen3.8 Flash-Next 和 Blackwell 架构进行了优化，吞吐量达到了其前身的 2.6 倍。Basalt 支持双 GPU，并配备了一个自定义视觉编码器，该编码器比现有实现快得多，同时还支持多用户实时并发。