研究人员开发了 Qwenputer,这是一种实验性模型,它将一个功能齐全、确定性的 RISC-V CPU 直接嵌入到 Qwen 3.5-4B 语言模型的权重中。这种新颖的方法利用模型自身的 Gated DeltaNet 注意力层作为 RAM,使其能够在没有外部工具的情况下执行算术运算和运行用 C 和 MicroPython 编写的代码。该 CPU 完全在模型的正向传播中运行,为模型内的计算和存储提供了一种独特的方法。 AI
影响 这项研究展示了模型内计算和内存的新颖方法,可能影响未来的 AI 架构。
排序理由 该集群描述了一项将 CPU 集成到 LLM 权重中的新颖研究实验,而非商业发布或产品发布。
在 Mastodon — mastodon.social 阅读 →
- Gated DeltaNet
- GitHub
- Hugging Face
- Imanol Schlag
- Jürgen Schmidhuber
- Kazuki Irie
- MicroPython
- ModelScope
- Qwen 3.5
- Qwen-Next
- Qwenputer
- RISC-V
- Schlag et al.
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →