English(EN) I pushed Qwen3.8-27B to 2.000 prefill per second and 132 decode per second on A RTX 3090.

Qwen3.8-27B 模型在 RTX 3090 上实现每秒 2000 个预填充 token

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-01 11:43

一位用户在 RTX 3090 显卡上实现了 Qwen3.8-27B 大型语言模型的显著性能提升。通过实现一个在 int8 精度下保持接近 fp32 质量的自定义内核，他们将预填充速度提升至每秒近 2000 个 token，解码速度提升至每秒 132 个 token。这些优化可通过 GitHub 存储库获取。 AI

影响通过自定义内核开发，展示了在消费级硬件上显著提升推理速度的潜力。

排序理由用户驱动的开源模型优化，包含性能指标和代码。 [lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

Qwen3.8-27B 模型在 RTX 3090 上实现每秒 2000 个预填充 token

本文如何被排名

Signal score: 1 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 用户驱动的开源模型优化，包含性能指标和代码。 [lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

r/LocalLLaMA TIER_1 English(EN) · /u/iamMess · 2026-09-01 11:43

我在 RTX 3090 上将 Qwen3.8-27B 推至每秒 2000 次预填充和每秒 132 次解码。

<div class="md">Yoyo I'm back with updates to the fastest inference engine with minimal quality loss for Qwen3.8-27B. The last few weeks I've been optimizing decode speed and I don't think it can be pushed further, until a newer/better drafter is i…

本文如何被排名

报道来源 [1]

我在 RTX 3090 上将 Qwen3.8-27B 推至每秒 2000 次预填充和每秒 132 次解码。

相关实体

相关话题