H20-141G

GLM-5.2-FP8-DSpark 部署显示性能提升参差不齐

GPUStack 上的一位社区成员部署了 GLM-5.2-FP8-DSpark，这是 GLM-5.2-FP8 的增强版本，它整合了来自 Red Hat AI 的外部草稿模型的推测性解码。性能测试结果喜忧参半：在单并发场景下，DSpark 提升了 2.2 倍；但在高并发情况下，其表现不如原始模型。研究结果表明，DSpark 目前最适合低并发交互式用例，而非高吞吐量的生产工作负载。