qwenGPU

开发者将GPU嵌入LLM权重以运行CUDA内核

一位开发者创建了qwenGPU，这是一个实验性模型，它将SIMT GPU直接集成到Qwen3.5-2B的权重中。这种新颖的方法允许模型在其自身的前向传播中执行真实的CUDA内核，并使用Qwen现有的Gated DeltaNet和SwiGLU块构建了45个额外的未训练层。开发者报告称，与基础模型相比，文本漂移极小，并声称准确率很高，该模型在多个内核上与真实的NVIDIA Tesla T4相匹配。