实体 Qwen3.8FN

Qwen3.8FN

PulseAugur coverage of Qwen3.8FN — every cluster mentioning Qwen3.8FN across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

基础设施 1

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_302752 · Oct 15 · 20:34

Ninfer6000 引擎在 Qwen3.8FN 上展现出比 vLLM 和 llama.cpp 更显著的速度提升

对 Qwen3.8FN 模型不同推理引擎的性能比较显示出显著的速度差异。Ninfer6000 在解码性能上表现更优，在各种提示长度下，其性能分别比 vLLM 快 1.59 倍，比 llama.cpp 快 2.21 倍。虽然 Ninfer6000 的预填充速度落后于 vLLM，但仍显著优于 llama.cpp。准确性基准测试显示所有测试引擎的结果相当，Ninfer6000 在 BFCL v4 工具调用基准测试中达到了 76.6%。