PulseAugur
中
实时 20:12:58
English(EN) Geezuz kernel: Qwen3.8-27B at 190 tok/s (620~ tok/s at 8 requests) on two 3090s

Geezuz kernel 提升了 Qwen3.8-27B 在双 RTX 3090 上的性能

一个名为 Geezuz 的开源 megakernel 的新分支已被开发出来,旨在显著提升 Qwen3.8-27B 模型在双 RTX 3090 GPU 上的性能。这种内核架构允许整个前向传播作为一个单一的持久性 CUDA 内核运行,该分支专门针对同步并通过 PCIe 交换数据的两块显卡进行了优化。基准测试表明,Geezuz 在单个请求时可达到高达 190 tokens/秒,在 8 个并发请求时可达到 622 tokens/秒,性能优于 llama.cpp,接近 vLLM 的性能。 AI

影响 这种内核优化可能导致大型语言模型更快的本地推理速度,从而改善用户体验,并在消费级硬件上实现新的应用。

排序理由 现有模型和硬件的新内核优化。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Geezuz kernel 提升了 Qwen3.8-27B 在双 RTX 3090 上的性能

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
现有模型和硬件的新内核优化。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, model release
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
33 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/OhGeeLIVE ·

    Geezuz kernel: Qwen3.8-27B 在两块3090上以190 tok/s(620~ tok/s,8个请求)运行

    <!-- SC_OFF --><div class="md"><p><strong>Geezuz, its fast!</strong></p> <p>Qwen3.8-27B, two RTX 3090s power-limited to 280 W, plain PCIe, no NVLink, at 0 Context:<br /> (tests showing results with context are found on the next table) </p> <table><thead> <tr> <th align="left">Req…