English(EN) AI developer runs 28.9-million-parameter model on $10 ESP32-S3 microcontroller — uses Google's Per-Layer Embeddings technique, stores table on 16MB Flash memory

AI模型使用Google的嵌入技术在10美元的微控制器上运行

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-27 13:07

一位名叫Slava S（也称为“slvDev”）的乌克兰开发者成功地在一款低成本的ESP32-S3微控制器上运行了一个拥有2890万参数的AI模型，该微控制器的零售价约为10美元。这是通过采用Google的逐层嵌入技术（改编自Gemma模型）来实现的，以管理模型的内存需求。嵌入表格存储在较慢的16MB闪存中，而核心推理权重则利用了有限的512KB SRAM，使得模型能够完全在设备上运行。 AI

影响展示了在廉价的嵌入式设备上运行复杂AI模型的潜力，为离线AI应用开辟了可能性。

排序理由展示了在成本极低、资源受限的硬件上运行大型语言模型。 [lever_c_demoted from research: ic=1 ai=1.0]

在 Tom's Hardware 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

Tom's Hardware TIER_1 English(EN) · Zak Killian · 2026-07-27 13:07

AI developer runs 28.9-million-parameter model on $10 ESP32-S3 microcontroller — uses Google's Per-Layer Embeddings technique, stores table on 16MB Flash memory

Getting a local language model running on a sub-$10 microcontroller is impressive despite its obvious limitations.

报道来源 [1]

AI developer runs 28.9-million-parameter model on $10 ESP32-S3 microcontroller — uses Google's Per-Layer Embeddings technique, stores table on 16MB Flash memory

相关实体

相关话题