QwenPU

开发者将 LLM 嵌入 LLM 中，在 Qwen 3.5-4B 上运行 Karpathy 的 stories260k

一位开发者创建了一个新颖的系统，其中一个大型语言模型 (LLM) 在另一个 LLM 内部运行。这个名为 QwenPU 的新系统将一个 NPU (神经网络处理单元) 直接编译到 Qwen 3.5-4B 模型的权重中。这使得 Karpathy 的 stories260k LLM 能够完全在 Qwen 模型的内存中执行，无需外部工具，从而实现了显著的速度优化。