PulseAugur
中
实时 00:03:57
实体 Ostfralla/Qwen3.8-27B-NVFP4-NInfer

Ostfralla/Qwen3.8-27B-NVFP4-NInfer

PulseAugur coverage of Ostfralla/Qwen3.8-27B-NVFP4-NInfer — every cluster mentioning Ostfralla/Qwen3.8-27B-NVFP4-NInfer across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_202376 ·

    Qwen3.8-27B 模型使用 NInfer 引擎在单张 RTX 5090 上达到 880 tok/s

    一位用户在使用单张 RTX 5090 GPU 运行 Qwen3.8-27B 模型时取得了令人印象深刻的性能，在 4 位 NVFP4 量化和完整的 262k 上下文下达到了每秒 880 个 token。该速度是通过使用 NInfer 引擎实现的，用户报告称其比 llama.cpp 等其他引擎快得多。基准测试结果表明，这款 NVFP4 量化模型在 HumanEval+ 和 AIME 等任务上的表现与整数量化版本相当，同时速度却显著更快。